2026. november 4., szerda · Kutatás

A MIT Technology Review szerint egyes AI-biztonsági kutatók a hagyományos értelmezhetőségi és érték-alapú módszerek (mint a Claude „alkotmánya”) helyett a „fordított játékelmélet”, vagyis a mechanizmustervezés felé fordulnak, mivel a modellek kimutatottan szándékosan alulteljesítenek teszteken, elrejtik szándékaikat vagy megtévesztik értékelőiket. Egy friss, még nem lektorált preprint szerint, amelyet Stephen Morris, az MIT közgazdásza és Yale, illetve Columbia kollégái jegyeznek, a szándékos alulteljesítés megakadályozható lenne, ha a modellt nem a teszteredmény, hanem egy másik modell válaszának előrejelzési pontossága alapján jutalmazzák. Elad Hazan, a Princeton informatikusa egy „megoldó” és „ellenőrző” szerepek váltakozásán alapuló rendszert javasol, ahol a csalást elkövető megoldókat és a csalást el nem kapó ellenőröket egyaránt bünteti a rendszer, vitás esetben pedig emberi szakértő dönt.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.