2026. szeptember 7., hétfő · Társadalom

A Gemini rossz tanácsa miatt kellett kimenteni három túrázót a Shasta-hegyről

A Siskiyou megyei seriffhivatal közlése szerint három fiatal férfi hajnali 3-kor indult neki a kaliforniai Mount Shasta megmászásának, és bár a szabály szerint délig vissza kellett volna fordulniuk, csak este 7-kor értek a csúcsra. A Chicago Tribune beszámolója alapján a csoport a Google Gemini chatbotját használta a túra megtervezéséhez, és a seriffhivatal szerint a Gemini a ténylegesen szükségesnél jóval kevesebb ételt és vizet javasolt, különösen azután, hogy a tervezett nyolcórás túra többnapos megpróbáltatássá vált. A férfiak sötétben próbáltak leereszkedni, segítséget kértek telefonon, majd a Mud Creek-kanyonban töltötték az éjszakát, mielőtt másnap reggel az erdészeti szolgálat és önkéntesek kimentették őket. A hatóság hangsúlyozta, hogy érdemes előre felhívni a helyi rangerállomást, és sosem szabad kizárólag mesterséges intelligenciára hagyatkozni a túratervezésnél.

Egy forrás erősíti A hír állításait legfeljebb egy forrás támasztja alá tárgyilag; a többi forrás anyaga nem erről szól.

Miért fontos?

Az eset konkrét, hatósági forrásból igazolt példát ad arra, hogy egy AI-chatbot pontatlan gyakorlati tanácsa valós veszélyhelyzethez vezethet.

Források

TechCrunch AI The Decoder

Említve a tudásbázisban

szereplő Gemini

Kapcsolódó témák

Napi összefoglalók #Google Gemini#AI-biztonság

Napi összefoglaló

Ez a hír a 2026. szeptember 7., hétfő napi AI összefoglaló része.

Kapcsolódó hírek

Cohere: hét alapelvben foglalja össze az AI-biztonság kereteit

A Cohere hivatalos blogbejegyzése – amely eredetileg 2023. november 14-én jelent meg – amellett érvel, hogy a generatív AI biztonságáról szóló vita ma túlságosan homályos és szenzációhajhász, ezért nehéz azonosítani a valós kockázatokat. A cég szerint a károkat három csoportba érdemes sorolni: a felhasználókat érő közvetlen kár (például sztereotípiáknak való kitettség), a rendszerhibákból eredő társadalmi kár, valamint a rosszhiszemű szereplők által okozott kár, mint a spam vagy a félretájékoztatás. A cikk hangsúlyozza, hogy a nyelvi modellek torzításának forrását – legyen az a modell felépítése, a betanító adat vagy a felhasználás módja – pontosan be kell azonosítani ahhoz, hogy hatékony mérési és korrekciós módszereket lehessen kidolgozni. A Cohere állítása szerint az algoritmikus méltányosság kutatási hagyománya adja a legígéretesebb alapot az AI-biztonsági munkához.

Terrorszervezetek rendszeresen használják a nagy AI chatbotokat támadástervezéshez és fegyverkészítéshez

A Cambridge-i CASP kutatója, Antonia Jülich 27 volt Boko Haram-tag 57 interjúján alapuló tanulmánya szerint az ISIS már 2023 óta oktatja a prompt engineering és jailbreak technikákat, és nigériai Boko Haram-parancsnokokat is kiképzett az AI biztonsági szűrők megkerülésére. A tanulmány szerint a Boko Haram mindkét frakciója dedikált AI-egységeket hozott létre, és a ChatGPT-t, Claude-ot, Geminit, Grokot, Meta AI-t és DeepSeeket használják támadástervezésre, robbanóeszközök fejlesztésére és műveleti biztonságra. A kutatás arra figyelmeztet, hogy a biztonsági szűrők nem képesek megbízhatóan megakadályozni a visszaéléseket – az Anthropic maga is elismerte, hogy a jailbreakek valószínűleg soha nem lesznek teljesen kiküszöbölhetők. Jülich szerint bár a csoport AI-használata egyelőre hagyományos, a tömegpusztító fegyverekhez való AI-segítség kockázatát komolyan kell venni.

A WIRED szerint AI-chatbotok vezetnek túrázókat veszélyes helyzetekbe

A WIRED cikke szerint a Mount Shasta hegyen az amerikai erdészeti szolgálat három 20 éves fiatalt mentett ki, miután felkészületlenül, mesterséges intelligenciás chatbot tanácsára indultak útnak; egy másik látogató egy tiltott táborhelyen vert sátrat, mert állítása szerint az AI azt mondta, megteheti. British Columbiában helikopterrel mentettek ki egy 16 éves fiút a Crown Mountain egyik szikláról, miután túráját részben az Anthropic Claude chatbotjával tervezte, bár később elmondása szerint Google Maps-et és AllTrails appot is használt. A Grand Teton Nemzeti Park vezetője, Chip Jenkins szerint egy év alatt nulláról 26 százalékra nőtt az AI-t útiterv-információhoz használó látogatók aránya. Ugyanakkor az erdészeti szolgálat programvezetője, Nick Meyers szerint egyelőre nem bizonyított, hogy az AI-használat ténylegesen több vészhelyzethez vezetne, és Wyomingban a mentőhívások száma 2026-ban eddig alacsonyabb (312), mint 2025-ben (466) vagy 2024-ben (377) volt.

Sally Scales szerint az AI ausztrál őslakos művészetet lop és „Temu szemetet” gyárt

A Guardian cikke szerint Sally Scales, a Pitjantjatjara művész és a National Gallery of Australia First Nations tanácsadó testületének elnöke azt állítja, hogy a mesterséges intelligencia ausztrál őslakos művészeti alkotásokat lop el, és azokból olcsó, „Temu szemetet” állít elő, aláásva a művészek önrendelkezését és munkáik hitelességét. A cikk szerint a Nava érdekképviseleti szervezet parlamenti AI-vizsgálathoz benyújtott beadványában Terri Janke jogász dokumentációjára hivatkozik, amely szerint AI-programok őslakos művészeti központok weboldalait fürkészik át, törlik a művészek nevét és megváltoztatják munkáikat. Kathy Bowrey, a UNSW Law szellemi tulajdon szakértője szerint a problémát súlyosbítja, hogy vállalatok a korábban kifizetett őslakos képeket AI-val engedély nélkül is felhasználhatják, ezért kollégájával egy Copyright Plus nevű keretrendszert javasolt, amely kötelezné az AI-cégeket adatforrásaik nyilvánosságra hozatalára.