2026. szeptember 7., hétfő · Társadalom

Gemini rossz tanácsa miatt kellett kimenteni három túrázót a Shasta-hegyről

A Siskiyou megyei seriffhivatal közlése szerint három fiatal férfi hajnali 3-kor indult neki a kaliforniai Mount Shasta megmászásának, és bár a szabály szerint délig vissza kellett volna fordulniuk, csak este 7-kor értek a csúcsra. A Chicago Tribune beszámolója alapján a csoport a Google Gemini chatbotját használta a túra megtervezéséhez, és a seriffhivatal szerint a Gemini a ténylegesen szükségesnél jóval kevesebb ételt és vizet javasolt, különösen azután, hogy a tervezett nyolcórás túra többnapos megpróbáltatássá vált. A férfiak sötétben próbáltak leereszkedni, segítséget kértek telefonon, majd a Mud Creek-kanyonban töltötték az éjszakát, mielőtt másnap reggel az erdészeti szolgálat és önkéntesek kimentették őket. A hatóság hangsúlyozta, hogy érdemes előre felhívni a helyi rangerállomást, és sosem szabad kizárólag mesterséges intelligenciára hagyatkozni a túratervezésnél.

Egy forrás erősíti A hír állításait legfeljebb egy forrás támasztja alá tárgyilag; a többi forrás anyaga nem erről szól.

Miért fontos?

Az eset konkrét, hatósági forrásból igazolt példát ad arra, hogy egy AI-chatbot pontatlan gyakorlati tanácsa valós veszélyhelyzethez vezethet.

Források

TechCrunch AI The Decoder

Említve a tudásbázisban

szereplő Gemini

Kapcsolódó témák

Napi összefoglalók #Google Gemini#AI-biztonság

Napi összefoglaló

Ez a hír a 2026. szeptember 7., hétfő napi AI összefoglaló része.

Kapcsolódó hírek

Cohere: hét alapelvben foglalja össze az AI-biztonság kereteit

A Cohere hivatalos blogbejegyzése – amely eredetileg 2023. november 14-én jelent meg – amellett érvel, hogy a generatív AI biztonságáról szóló vita ma túlságosan homályos és szenzációhajhász, ezért nehéz azonosítani a valós kockázatokat. A cég szerint a károkat három csoportba érdemes sorolni: a felhasználókat érő közvetlen kár (például sztereotípiáknak való kitettség), a rendszerhibákból eredő társadalmi kár, valamint a rosszhiszemű szereplők által okozott kár, mint a spam vagy a félretájékoztatás. A cikk hangsúlyozza, hogy a nyelvi modellek torzításának forrását – legyen az a modell felépítése, a betanító adat vagy a felhasználás módja – pontosan be kell azonosítani ahhoz, hogy hatékony mérési és korrekciós módszereket lehessen kidolgozni. A Cohere állítása szerint az algoritmikus méltányosság kutatási hagyománya adja a legígéretesebb alapot az AI-biztonsági munkához.

Terrorszervezetek rendszeresen használják a nagy AI chatbotokat támadástervezéshez és fegyverkészítéshez

A Cambridge-i CASP kutatója, Antonia Jülich 27 volt Boko Haram-tag 57 interjúján alapuló tanulmánya szerint az ISIS már 2023 óta oktatja a prompt engineering és jailbreak technikákat, és nigériai Boko Haram-parancsnokokat is kiképzett az AI biztonsági szűrők megkerülésére. A tanulmány szerint a Boko Haram mindkét frakciója dedikált AI-egységeket hozott létre, és a ChatGPT-t, Claude-ot, Geminit, Grokot, Meta AI-t és DeepSeeket használják támadástervezésre, robbanóeszközök fejlesztésére és műveleti biztonságra. A kutatás arra figyelmeztet, hogy a biztonsági szűrők nem képesek megbízhatóan megakadályozni a visszaéléseket – az Anthropic maga is elismerte, hogy a jailbreakek valószínűleg soha nem lesznek teljesen kiküszöbölhetők. Jülich szerint bár a csoport AI-használata egyelőre hagyományos, a tömegpusztító fegyverekhez való AI-segítség kockázatát komolyan kell venni.

Mesterséges intelligenciával gyártott riasztó hirdetések árasztják el a viktóriai választási kampányt

A The Guardian beszámolója szerint a Victoria állambeli választás előtt kevesebb mint 100 nappal AI-generált képekkel operáló reklámkampányok jelentek meg a közösségi médiában, amelyek machetés rablót, út menti szülést és Victoria „adósság-cunamijaként” ábrázolt árvizet mutatnak be. A cikk szerint a Fix Victoria nevű csoport egy szakértő becslése alapján akár 100 ezer dollárt is költött augusztusban hirdetésekre, ami meghaladja a legtöbb nagy párt és jelölt kiadását. A lap dokumentálja, hogy a csoport mögött korábban a konzervatív Institute of Public Affairs agytrösztnél dolgozó politikai szakemberek állnak, bár állításuk szerint jogilag független szervezetről van szó. A cikk megemlíti a Better Victoria nevű másik csoportot is, amely szintén AI-alapú hirdetésekkel állítja szembe a munkáspárti kormányzati beruházásokat más közszolgáltatásokkal.

MI-generált ételfotók keltenek undort az éttermek menüiben

A Guardian cikke szerint egyre több étterem használ mesterséges intelligenciával generált ételfotókat menüin és reklámanyagain, ám a vásárlók sokszor visszataszítónak és félrevezetőnek találják ezeket. Konkrét példaként említi egy denveri nő közösségi médiás posztját egy jamaikai grill pop-up étterem MI-képeiről, amelyeken a hús bőrszerűnek, bogaraktól hemzsegőnek tűnt, valamint egy San Franciscó-i kávézó esetét, ahol a lakók felismerték az MI-generált kenyérfotókat, és az üzletet graffitivel firkálták össze. A tulajdonos állítása szerint 700 dollárba került a graffiti eltávolítása. A cikk egy 2026-os National Restaurant Association jelentésre hivatkozva közli, hogy az éttermi üzemeltetők 26 százaléka használ MI-t marketingre, készletkezelésre vagy menüoptimalizálásra.