В вашем методе с резистором в цепи нагрузки я столкнулся с проблемой - на результаты измерений сильно влияла входная ёмкость щупа осциллографа
Ну, метод общепризнанный, я тут никаким боком.
Обычно для развязки в цепи измерения U и I ставятся по инструментальному усилителю с чудовищно огромным входным сопротивлением порядка 100 ГОм/2пФ. У меня стоят AD8221. У них полоса 0-825 кГц с Ку=1. Так что вольтметры никакого практического влияния на измерение не оказывают.
Ваш же способ измерения в первом приближении является методом вольтметра-амперметра, ничего не поделаешь. Да ещё вносит искажения в измерения, поскольку трансформаторы не идеальные, а имеют индуктивности рассеяния, которые трудно точно учесть на разных частотах.
Ещё один способ измерения - с помощью моста. Три плеча по R, четвертое - импеданс измеряемого прибора. В одну диагональ включается генератор и измеритель падающей волны, в другую - измеритель отраженной волны. Если входной импеданс равен R, то мост сбалансирован, если не равен, то появляется рассогласование, т.е. отражённая волна. По этому принципу построен широко известный прибор nanovna.
Кстати вот, RLC-2 измеряет импеданс RC или LC цепей в диапазоне от 10 миллиом до 100 мегаом, с результатом 4-5 десятичных знаков, к сожалению, только на 3-х частотах 0,1/1.0/10 кГц.