Вообщем разобрался сам. Как и предполагал, срабатывает защита HDCP на видяхе, почему она срабатывает при передаче незащищённого сигнала так для меня и осталось загадкой.
Заменил видяху на точно такую, только без поддержки HDCP и всё заработало, причём видяха сама определила разрешение тельмана и даже Pstrip не понадобился.
Да и по кабелю. Я используя два кабеля, разницы изображения на глаз не заметил, кабель был (10м-170грв Viewcon) и (1.8м-420грв Sony). Возможно это связано с разрешением моего телека (1366*768) и форматом сигнала, а вот на 1920*1080 может и была бы видна разница.