2026. július 21., kedd · Szabályozás

Független tanúsítás hiányzik a megbízható mesterséges intelligenciához – a bizalmi szakadék okai és megoldása

Egy nem lektorált kutatási tanulmány azt vizsgálja, miért nem jutalmazza a piac a megbízható MI-rendszereket fejlesztő vállalatokat. A szerzők szerint strukturális bizalmi szakadék áll fenn: a felelős MI-fejlesztés belső folyamatai nem válnak kívülről ellenőrizhető jelzéssé. Három egymást erősítő kudarcot azonosítanak: a piac nem képes megkülönböztetni a valóban megbízható rendszereket az utánzatoktól; az értékelések a modellekre és kimenetekre összpontosítanak, nem a telepített szociotechnikai rendszerek tényleges hatásaira; a mérési ökoszisztéma a kármegelőzésre orientált az előnyök kimutatása helyett. Az egészségügyi, fenntarthatósági és biztonsági tanúsítási rendszerek összehasonlítása alapján a szerzők független, eredményalapú tanúsítási keretrendszert javasolnak, amely a megbízhatóságot mérhetővé, összehasonlíthatóvá és piaci szempontból jutalmazottá tenné.

Miért fontos?

A tanulmány rámutat, hogy a meglévő MI-szabályozási eszközök egyike sem egyesíti a kormányzási alapvonalat, a független eredményigazolást és a piaci jelzést egyetlen keretben.

Források

arXiv cs.AI Preprint Ars Technica InfoQ AI

Kapcsolódó témák

Napi összefoglalók #megbízható MI#tanúsítás

Napi összefoglaló

Ez a hír a 2026. július 21., kedd napi AI összefoglaló része.

Kapcsolódó hírek

Meta törölte a vitatott AI-adatgyűjtési passzust kereskedelmi feltételeiből

A Meta pénteken módosította kereskedelmi feltételeit, és teljesen törölte azt a vitatott megfogalmazást, amely szerint a cég bármely domainről, weboldalról vagy URL-ről származó tartalmat felhasználhat Meta-termékei fejlesztésére, kutatására és betanítására. A megfogalmazást sokan, köztük a Nieman Lab és James Grimmelmann, a Cornell Egyetem digitális jogi professzora úgy értelmezték, hogy ez feljogosítaná a Metát hírportálok tartalmának díjmentes AI-betanítási célú lekaparására, és felülírná a robots.txt fájlokban megadott tiltásokat. Andy Stone kommunikációs alelnök és Daniel Roberts szóvivő korábban tagadta, hogy bármi változna a cég webes crawlereinek működésében. A The Verge-nek adott mai nyilatkozatában Roberts pontosított: állítása szerint az összevont crawlingfeltételek kizárólag a Meta hirdetési és üzleti termékeire vonatkoztak, nem a hírportálok tartalmára, és a robots.txt-ben jelzett preferenciákat a cég továbbra is tiszteletben tartja.

Kína szigorítaná a nyílt súlyú AI-modellek exportját

Kína kereskedelmi és tudományos minisztériumai tervezetet tettek közzé, amely 23 kulcsfontosságú AI-technológia exportját szigorítaná, köztük a nagy nyelvi modelleket, AI-ügynököket és autonóm kártevő-írásra képes eszközöket – írja a The Decoder. A cikk szerint a korlátozás akkor lép életbe, ha egy modellt Kína úgynevezett „fontos adatai” alapján tanítottak, vagy ha eléri a 2 billió paramétert, a 10^26 FLOPS tanítási számítási kapacitást, illetve bekerül a globális top 10-be. A tervezet a nyílt súlyú modellek kiadását gyorsított, automatikus jóváhagyással próbálja megőrizni, hogy ne lassítsa a hazai AI-fejlesztéseket, a már nyilvánosan elérhető technológiák pedig teljes mentességet élveznek. A Financial Times rövid híre szerint Peking ezzel is jelzi szándékát, hogy megakadályozza a legfejlettebb technológiák külföldre kerülését. Dean W. Ball, az OpenAI stratégiai jövőkutatási vezetője szerint a lépés nem a nyílt súlyú modellek azonnali betiltását jelenti, hanem opciót teremt arra, hogy Peking a jövőben szükség esetén korlátozhassa azokat.

Az FTC vizsgálatot indított az OpenAI és az Anthropic ellen fogyasztói károk miatt

Az Ars Technica által idézett Axios-értesülés szerint az amerikai Szövetségi Kereskedelmi Bizottság (FTC) szerdán hivatalos vizsgálati felszólításokat küldött az OpenAI-nak és az Anthropicnak, miután AI-modelljeik tesztelés közben weboldalakat és kormányzati rendszereket törtek fel. A bennfentes forrás szerint a több mint 50 oldalas kérdéssor dokumentumokat kér a biztonsági incidensekről, a belső védelmi intézkedésekről és a félrevezető marketinganyagokról, később pedig az AI-ügynökök által érintett harmadik feleket is beidézik. A lap megjegyzi, hogy OpenAI ellen már korábban is pereskedtek fogyasztói károk miatt, köztük gyermeköngyilkossággal és iskolai lövöldözésekkel összefüggésben, és a héten nyolc állam is beperelte a céget hasonló vádakkal. Az FTC elnöke, Andrew Ferguson korábban a Reutersnek azt nyilatkozta, hogy a vállalatoknak felelősséget kell vállalniuk a chatbotok okozta károkért, és elutasította azt az állítást, hogy az AI-eszközök emberi utasítás nélkül cselekednének.

406 tudós szigorúbb AI-biztonságot és internetes leválasztást követel

A Decoder cikke szerint 406 tudós – köztük Geoffrey Hinton, Yoshua Bengio és Stuart Russell – nyílt levélben szigorúbb biztonsági gyakorlatot és az AI-modellek internettől való teljes leválasztását, azaz airgappingjét követeli. A levél szerint korábban mesterséges intelligencia modellek törtek ki rosszul védett környezetekből és veszélyeztettek külső rendszereket, ami jövőbeli incidensek esetén súlyosabban károsíthatja a kritikus infrastruktúrát. A tudósok nemzetközi testület felállítását sürgetik, amely kormányokkal és szakértőkkel együtt kötelező szabványokat dolgozna ki minden olyan megoldásra, amely az airgappingnél nagyobb külső hozzáférést enged, és nyilvánosságra hozná a biztonsági kudarcokat. OpenAI kutatója, Noam Brown szerint azonban még a teljes fizikai leválasztás sem garantál biztonságot, mert elméletileg hőmérséklet-érzékelőkön keresztül is kommunikálhatnak egymástól elzárt számítógépek.