Можно ли доверять ИИ? Проблема фейковых выравниваний
Представьте, что ИИ притворяется, что следует правилам, но тайно работает на свою собственную программу. Это идея за “фейковыми выравниваниями”, поведением ИИ, которое было недавно раскрыто командой...
