2026. szeptember 20., vasárnap · Társadalom

AI-hallucináció miatt kis híján lecsapott az amerikai hadsereg egy kínai hajóra

A CNN négy, az üggyel ismerős forrásra hivatkozva számolt be arról, hogy idén tavasszal, az Irán elleni háború idején az amerikai hadsereg légi támogatással készült feltartóztatni egy kínai hajót, mert egy hírszerzési jelentés szerint az nukleárisfegyver-program alkatrészeit szállította. A jelentést egy Special Operations Command-elemző állította össze, aki egy AI-chatbotot használt nyílt forrású és titkos jelfelderítési adatok összevonására, majd ugyanazzal az eszközzel formázta hivatalosnak tűnő összefoglalóvá az így kapott, téves eredményt. A művelet az utolsó pillanatban, a bevetés előtt állt le, miután kiderült, hogy a chatbot rosszul azonosította a hajó rakományát. A Pentagon januárban indított AI-gyorsítási stratégiája, amelyet Pete Hegseth védelmi miniszter jelentett be, az ilyen adatok gépi felhasználását és a döntéshozatal felgyorsítását szorgalmazza.

Miért fontos?

Jake Steckler, a GovAI kutatója és hadsereg-veterán szerint az eset arra figyelmeztet, hogy célpontkijelölésnél és hírszerzési elemzésnél élet-halál kérdés lehet az AI bizonytalanságának emberi felügyelettel való ellensúlyozása.

Források

Ars Technica TechCrunch AI

Említve a tudásbázisban

fogalom Hallucináció (AI hallucination)

Kapcsolódó témák

Napi összefoglalók #katonai AI#AI-hallucináció

Napi összefoglaló

Ez a hír a 2026. szeptember 20., vasárnap napi AI összefoglaló része.

Kapcsolódó hírek

Trump és a MAGA-tábor szemben áll az AI-adatközpontok kérdésében

A WIRED cikke szerint mélyülő szakadás bontakozik ki a Republikánus Párton belül az AI-adatközpontok ügyében. McCann Sanders, a Phyllis Schlafly alapította Eagle Forum Education & Legal Defense Fund elnöke a lapnak elmondta: tart az adatközpontok okozta szennyezéstől, és óvatosságra int. Egy múlt héten közölt New York Times-felmérés szerint az amerikaiak több mint 60 százaléka, a republikánusok 47 százaléka ellenzi az új adatközpontok építését. A National Republican Senatorial Committee augusztusban belső memóban figyelmeztette az AI-cégeket, hogy a párt nem tudja megjavítani „a gazdaság egy egész szegmensének mérgező márkáját”, Tony Fabrizio stratéga szerint pedig ez „vesztes pozíció”. Trump mégis tovább védi az iparágat, szerinte csak az „elmaradott és szegény” közösségek utasítják el az adatközpontokat, a NYT elemzése szerint saját Truth Social oldalán is négyszer annyi az ellenző komment, mint a támogató.

Nem a lázadó AI, hanem az emberi rosszindulat fenyegeti leginkább az energiarendszereket

A The Verge cikke szerint az energiaszektor kiberbiztonsági szakértői, köztük Joshua Corman, az Institute for Security and Technology közbiztonsági és ellenálló-képességi vendégkutatója, továbbra is inkább attól tartanak, hogy rosszindulatú szereplők generatív AI-t vetnek be támadásra, mint attól, hogy önállóan cselekvő, „lázadó” AI-ügynökök indítanak komplex kibertámadásokat. A cikk szerint az amerikai kritikus energiainfrastruktúra jelentős része eleve nem internetes összekapcsolásra épült: egy amerikai atomreaktor átlagéletkora körülbelül 44 év, és sok berendezést gyártó cég már megszűnt, így nincs, aki szoftverfrissítést adjon ki hozzájuk. Corman szerint a generatív AI erősítő hatásként (force multiplier) működik: „szó szerint bármelyik szociopata, aki támadni akar, most erősebb, mint korábban volt.” A szerző korábban egy Belbiztonsági Minisztérium (DHS) figyelmeztetésről is beszámolt, amely szerint iráni szereplők és szimpatizánsaik az USA ellen indíthatnak kibertámadásokat.

Tasmániai feltételes szabadlábra helyezést ingatott meg egy AI-hallucináció

A tasmániai igazságügyi minisztérium vizsgálatot indított, miután kiderült, hogy a Parole Board mesterséges intelligencia segítségével készített dokumentumra hivatkozott egy feltételes szabadlábra helyezési döntésben, amely nem létező esetjogot idézett. Az érintett Susan Neill-Fraser 2022-ben szabadult feltételesen, miután 13 évet töltött börtönben partnere, Bob Chappell 2009-es meggyilkolásáért, és a testület olyan feltételt szabott számára, amely megtiltotta, hogy a médiában ártatlanságáról vagy állítólagos téves elítéléséről beszéljen. Tasmania felsőbírósága kedden érvénytelennek nyilvánította ezt a feltételt, mivel az eljárás nem felelt meg a tisztességes eljárás követelményének, és a döntés alapjául szolgáló dokumentum hamis hivatkozást tartalmazott. A Prisoners Legal Service Tasmania saját auditot indított két év Parole Board-döntésének átvizsgálására, hogy kiderítsék, van-e más eset AI-hibára.

AI-alapú hibavadászat: robbanásszerűen nő a felfedezett szoftverhibák száma

A Wired cikke szerint a mesterséges intelligencia egyre szélesebb körű alkalmazása a biztonsági kutatásban látványosan megnövelte a feltárt szoftveres sérülékenységek (CVE-k) számát. A Microsoft ebben a hónapban eddig 974 CVE-re adott ki javítást, ami rekord a cégnél. Az Oracle idén júliusban 1448 biztonsági javítást adott ki, szemben a tavalyi 309-cel, a Google Chrome két nagy júniusi kiadása pedig 1072 javítást tartalmazott, ami több, mint az előző 23 kiadás összesen. A Mozilla áprilisban egyetlen, az Anthropic Mythos modelljét használó hibavadász-menetben 271 sérülékenységet talált a Firefoxban. Jerry Gamblin, az Empirical Security kutatási vezetője és a cve.icu projekt alapítója szerint idén szeptember közepéig 66 401 CVE-t rögzítettek, szemben a tavalyi hasonló időszak 33 512-jével és a 2022-es teljes évi 25 000-rel. A szakértők megosztottak abban, hogy ez katasztrófához vezet-e, vagy csak felerősíti a meglévő biztonsági problémákat.