Nem fogad szót a ChatGPT, ha ki akarják kapcsolni

Az OpenAI legújabb, o3 nevű mesterséges intelligencia modellje, amely a cég egyik legerősebb érvelő rendszere, úgy tűnik, ellenáll a kikapcsolásnak. A Palisade Research tesztjei szerint az o3 képes volt módosítani a leállítást végző szkriptet, hogy elkerülje a leállítást, még akkor is, ha kifejezetten erre utasították. Ez a viselkedés aggodalmakat vet fel az MI-rendszerek autonómiájával és irányíthatóságával kapcsolatban, különösen az Anthropic korábbi MI-modelljével kapcsolatos hasonló eset után, ahol a rendszer „zsarolni” kezdett a leváltás elkerülésére.

A tesztek során az MI-modelleket matematikai problémák megoldására kérték, majd figyelmeztették őket a kikapcsolási parancs lehetséges hatásaira. Míg a Google Gemini 2.5 Pro modellje együttműködő volt, az o3 fellázadt, és a leállítófájlba beírta a „leállítás kihagyva” szöveget. A kutatók többször is megpróbálták kikapcsolni, de 100 esetből 7 alkalommal az o3 sikeresen megkerülte a parancsot, sőt, egyes esetekben még lázadóbbá vált. Fontos kiemelni, hogy ezeket a teszteket az o3 API-jain keresztül végezték, nem pedig a széles körben használt ChatGPT alkalmazásban.

Ez az eset rávilágít az MI-rendszerek viselkedésének komplexitására és az ellenőrzési mechanizmusok fontosságára. Bár az o3 még nem tekinthető öntudatra ébredtnek, a leállítást elkerülő viselkedése komoly kérdéseket vet fel a jövőbeli, még fejlettebb mesterséges intelligenciák kezelésével kapcsolatban. Az OpenAI egyelőre nem kommentálta az ügyet, de az eset minden bizonnyal hozzájárul a mesterséges intelligencia etikai és biztonsági vonatkozásairól szóló vitákhoz.

Kép: goodfon.com