Möglicherweise wird der Funktionsaufruf einfach zu früh ausgeführt. Versuch mal das hier im Addon-Code:
local f = CreateFrame("Frame")
f:RegisterEvent("PLAYER_LOGIN")
f:SetScript("OnEvent", function()
C_NamePlate.SetNamePlateFriendlySize(50, 100)
end)