2026. július 12., vasárnap · Társadalom

Terrorszervezetek rendszeresen használják a nagy AI chatbotokat támadástervezéshez és fegyverkészítéshez

A Cambridge-i CASP kutatója, Antonia Jülich 27 volt Boko Haram-tag 57 interjúján alapuló tanulmánya szerint az ISIS már 2023 óta oktatja a prompt engineering és jailbreak technikákat, és nigériai Boko Haram-parancsnokokat is kiképzett az AI biztonsági szűrők megkerülésére. A tanulmány szerint a Boko Haram mindkét frakciója dedikált AI-egységeket hozott létre, és a ChatGPT-t, Claude-ot, Geminit, Grokot, Meta AI-t és DeepSeeket használják támadástervezésre, robbanóeszközök fejlesztésére és műveleti biztonságra. A kutatás arra figyelmeztet, hogy a biztonsági szűrők nem képesek megbízhatóan megakadályozni a visszaéléseket – az Anthropic maga is elismerte, hogy a jailbreakek valószínűleg soha nem lesznek teljesen kiküszöbölhetők. Jülich szerint bár a csoport AI-használata egyelőre hagyományos, a tömegpusztító fegyverekhez való AI-segítség kockázatát komolyan kell venni.

Miért fontos?

A kutatás konkrét bizonyítékokat szolgáltat arról, hogy a terrorcsoportok aktívan kihasználják a kereskedelmi AI-rendszerek biztonsági réseinek sebezhetőségeit.

Források

The Decoder

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók #terrorizmus#AI-biztonság

Napi összefoglaló

Ez a hír a 2026. július 12., vasárnap napi AI összefoglaló része.

Kapcsolódó hírek

Cohere: hét alapelvben foglalja össze az AI-biztonság kereteit

A Cohere hivatalos blogbejegyzése – amely eredetileg 2023. november 14-én jelent meg – amellett érvel, hogy a generatív AI biztonságáról szóló vita ma túlságosan homályos és szenzációhajhász, ezért nehéz azonosítani a valós kockázatokat. A cég szerint a károkat három csoportba érdemes sorolni: a felhasználókat érő közvetlen kár (például sztereotípiáknak való kitettség), a rendszerhibákból eredő társadalmi kár, valamint a rosszhiszemű szereplők által okozott kár, mint a spam vagy a félretájékoztatás. A cikk hangsúlyozza, hogy a nyelvi modellek torzításának forrását – legyen az a modell felépítése, a betanító adat vagy a felhasználás módja – pontosan be kell azonosítani ahhoz, hogy hatékony mérési és korrekciós módszereket lehessen kidolgozni. A Cohere állítása szerint az algoritmikus méltányosság kutatási hagyománya adja a legígéretesebb alapot az AI-biztonsági munkához.

Az AI elől a kézművességbe menekülnek a fiatal munkavállalók Britanniában

A Guardian riportja szerint a mesterséges intelligencia által feldúlt brit munkaerőpiacon egyre több pályakezdő fordul a hagyományos kézműves szakmák, például a könyvkötészet, fémművesség és hajóépítés felé. A lap szerint a belépő szintű fehérgalléros állásokat – könyvelőktől szoftvermérnökökig – egyre inkább kiszorítja az olcsó automatizáció, miközben a kreatív szakmákat is nyomás alá helyezi a mesterséges intelligencia által gyorsan generált kép és szöveg. A cikkben megszólaló 27 éves könyvkötő tanuló, Eryn Lawley szerint a kézi munka „AI-proof”, mivel emberi kreatív ítéletet és ügyességet igényel, amit a technológia még nem sajátított el. A Ludlow Bookbinders vezetője, Paul Kidson szerint Britanniában ma kevesebb mint 50 kézi könyvkötő működik, és a fiatalok érdeklődése az iparág egyik esélye a fennmaradásra.

Techcégek nyílt levélben figyelmeztetnek az AI-vezérelt kibertámadásokra

Az OpenAI kezdeményezésére több mint 100 vállalat – köztük a Microsoft, a Google, az AWS, az Anthropic, a Cisco, a CrowdStrike, a Deutsche Telekom, az SAP és a Mastercard – írt alá egy nyílt levelet a globális kiberbiztonságról. A dokumentum szerint az AI-alapú kibertámadások egyre elterjedtebbé és kifinomultabbá válnak, elsősorban a kórházakat, vízműveket és más kritikus infrastruktúrákat fenyegetve. Az aláírók szerint a mai AI-eszközök egyelőre a védőknek adnak előnyt, ezért sürgetik gyors bevetésüket, vezetői szintű kiberbiztonsági fókuszt és nagyobb állami finanszírozást kérnek. A levél hivatkozik az NSA, a CISA és az FBI augusztusi közös figyelmeztetésére, amely szerint támadók már AI-vel írnak exploit-szkripteket amerikai ipari vezérlőrendszerek ellen az energetikai, vízügyi és vegyipari szektorban.

OpenAI leleplezett egy orosz dezinformációs kampányt a ChatGPT-n

Az OpenAI saját közleménye szerint blokkolt egy Oroszországból induló, ChatGPT-t felhasználó dezinformációs kampányt, amely egy állítólag izraeli székhelyű agytröszt, a „International Burke Institute” nevében terjesztett Kreml-barát narratívákat, köztük egy Oroszországot kedvezően, a Nyugatot rosszabb színben feltüntető „szuverenitási indexet”. A The Decoder cikke szerint az üzemeltetők VPN-en keresztül, Oroszországból léptek be, és a ChatGPT-t arra utasították, hogy rejtse el az orosz eredetre utaló nyelvi jegyeket. Az OpenAI szerint a 36 szakértői IBI-cikkből 34 más forrásokból volt átmásolva, hamis szerzői nevekkel. A tartalmakat X-en, LinkedInen, Facebookon, Substacken és Telegramon terjesztették, a kampány elérése egyelőre csekély maradt.