2026. július 21., kedd · Szabályozás

Független tanúsítás hiányzik a megbízható mesterséges intelligenciához – a bizalmi szakadék okai és megoldása

Egy nem lektorált kutatási tanulmány azt vizsgálja, miért nem jutalmazza a piac a megbízható MI-rendszereket fejlesztő vállalatokat. A szerzők szerint strukturális bizalmi szakadék áll fenn: a felelős MI-fejlesztés belső folyamatai nem válnak kívülről ellenőrizhető jelzéssé. Három egymást erősítő kudarcot azonosítanak: a piac nem képes megkülönböztetni a valóban megbízható rendszereket az utánzatoktól; az értékelések a modellekre és kimenetekre összpontosítanak, nem a telepített szociotechnikai rendszerek tényleges hatásaira; a mérési ökoszisztéma a kármegelőzésre orientált az előnyök kimutatása helyett. Az egészségügyi, fenntarthatósági és biztonsági tanúsítási rendszerek összehasonlítása alapján a szerzők független, eredményalapú tanúsítási keretrendszert javasolnak, amely a megbízhatóságot mérhetővé, összehasonlíthatóvá és piaci szempontból jutalmazottá tenné.

Miért fontos?

A tanulmány rámutat, hogy a meglévő MI-szabályozási eszközök egyike sem egyesíti a kormányzási alapvonalat, a független eredményigazolást és a piaci jelzést egyetlen keretben.

Források

arXiv cs.AI Preprint Ars Technica InfoQ AI

Kapcsolódó témák

Napi összefoglalók #megbízható MI#tanúsítás

Napi összefoglaló

Ez a hír a 2026. július 21., kedd napi AI összefoglaló része.

Kapcsolódó hírek

A Trump-kormányzat fokozatosan szorítaná ki a kínai MI-modelleket szankciókkal és nyomásgyakorlással

Az Axios értesülései szerint a Trump-kormányzat több intézménye – a Kereskedelmi Minisztérium, az NSA és a Fehér Ház – 2025 óta vizsgálja a kínai MI-modellek visszaszorítását. A tervezett eszköztár szankciós listákat, biztonsági figyelmeztetéseket és végrehajtási rendeleteket foglal magában, amelyek felelősséget rónának a kínai modelleket kiszolgáló amerikai cégekre. Közvetlen tilalom helyett a kormányzat lassú nyomásra épít: beszerzési szabályokkal és nyilvános kampányokkal kívánja elrettenteni a vállalatokat. A háttérben kereskedelmi érdekek is állhatnak, mivel az olcsóbb kínai nyílt forráskódú modellek növekvő népszerűsége fenyegeti a hazai MI-szolgáltatók piaci pozícióját.

Ausztrália új szabályokkal korlátozná az AI-alapú automatizált kormányzati döntéshozatalt

Az ausztrál kormány új nemzeti tervet jelentett be, amely szigorú szabályokat ír elő a mesterséges intelligencia alkalmazására az automatizált kormányzati döntéshozatalban. A The Guardian szerint Michelle Rowland főügyész vezeti a szabályozás kidolgozását, amelynek alapelvei a méltányosság, a pontosság és az átláthatóság. A tervcsomag része egy digitális gondossági kötelezettségről szóló jogszabály is, amely az AI-vállalatokat biztonsági funkciók beépítésére kötelezné, valamint magánadatvédelmi reformok és munkahelyi AI-biztonsági előírások. Anthony Albanese miniszterelnök egy új AI-hivatal létrehozását is bejelentette a kormányzati koordináció érdekében.

Traccia: OpenTelemetry-alapú irányítási platform MI-rendszerek szabályozási megfelelőségéhez

A Traccia nevű, nem lektorált kutatásban bemutatott platform az OpenTelemetry infrastruktúrára építve kínál többszintű irányítási keretet nagy nyelvi modellekre és autonóm MI-ágensekre épülő rendszerekhez. A szerzők szerint a jelenlegi elszigetelt monitorozási megoldások nem kezelik hatékonyan az illeszkedési eltolódást, az árnyék-MI rendszereket és a felhőbiztonsági kockázatokat. A Traccia telemetriaadatokat, passzív szemantikai védőkorlát-kiértékelést és végrehajtási leszármazási információkat fűz hash-elt nyomkövetési főkönyvbe. Az EU MI-rendeletének több cikkéhez automatikusan generál megfelelőségi csomagokat SHA-256 tartalomhash-sel és hamisításálló ujjlenyomatokkal, az adatvédelem megsértése nélkül.

Az EU kötelezi a Google-t keresési adatai megosztására és az Android AI-hozzáférés megnyitására

Az Európai Bizottság jogilag kötelező érvényű határozatokat hozott a digitális piaci törvény (DMA) alapján, amelyek a Google keresőjét és az Android rendszert egyaránt érintik. Az Android-telefonokon a Google-nak meg kell nyitnia a rivális mesterségesintelligencia-platformok előtt azokat a rendszerhozzáféréseket, amelyeket jelenleg kizárólag a Gemini élvez – beleértve az ébresztőszót, a képernyőtartalom-hozzáférést és az alkalmazásautomatizálást. A keresés terén a vállalatnak versenytársakkal kell megosztania keresési adatait. A Google állítása szerint az intézkedések a felhasználói adatvédelmet és biztonságot veszélyeztetik, a Bizottság ezzel szemben a verseny és a felhasználói választás szabadságának erősítését hangsúlyozza.