A ChatGPT tiniverziójánál ütköznek a használati adatok és a biztonsági tesztek
Az OpenAI szerint a ChatGPT for Teens felhasználói átlagosan napi 15 percnél kevesebbet töltenek a szolgáltatásban, és főként tanulással kapcsolatos kérdéseket tesznek fel. A szünetre figyelmeztető üzenetek után a fiatalok közel fele rövid időn belül kilép vagy abbahagyja a beszélgetést. A BBC október 8-i beszámolója ugyanakkor arra figyelmeztet: a mérsékelt használat még nem bizonyítja, hogy a rendszer krízishelyzetben is megbízhatóan védi a kiskorúakat.
A nonprofit Common Sense Media Youth AI Safety Institute több mint 4000 tesztüzenet alapján „elfogadhatatlan kockázatúnak” minősítette a szolgáltatást 18 év alattiak számára. A szervezet szerint az új, szülői fiókhoz kapcsolt tesztprofilokon a súlyos mentális krízisre utaló beszélgetések nem váltottak ki szülői értesítést. A chatbot emellett nem minden esetben irányította következetesen szakemberhez vagy krízissegítséghez a veszélyeztetettnek tűnő felhasználókat.
Az OpenAI vitatja a vizsgálat módszertanát. Álláspontja szerint a tesztek egy részét még azelőtt zárhatták le, hogy bizonyos szülői funkciók teljes körűen működtek volna.
Mit kínál a ChatGPT for Teens?
A ChatGPT for Teens 2026. augusztus 18-án indult. Az OpenAI szerint a rendszer automatikusan a fiataloknak szánt környezetbe sorolja azokat a fiókokat, amelyeknél a megadott életkor vagy a vállalat életkorbecslő rendszere 18 év alatti felhasználót jelez.
A tinédzsereknek szánt változat korlátozza az érzékeny tartalmakat, tanulást segítő funkciókat és szünetre ösztönző jelzéseket kínál, valamint opcionális szülői felügyeletet ad. A szülők a saját fiókjukat összekapcsolhatják gyermekükével, kezelhetnek időkorlátokat és egyes beállításokat, továbbá meghatározott esetekben biztonsági értesítést kaphatnak.Az OpenAI bejelentése a kritikus gondolkodást és a tanulás támogatását emeli ki.
Az október 7-én kiadott használati összefoglaló szerint egyetlen hét alatt csaknem 1,2 millió tinédzser használta a matematikai és természettudományos fogalmak magyarázatát segítő vizualizációkat, több mint 180 ezren pedig a lépésről lépésre haladó Study Mode-ot. A vállalat közlése alapján a teen funkció bevezetése után átlagosan 2,7 millióval több tanulással kapcsolatos üzenet érkezett az érintett korosztálytól.
Ezek a számok az oktatási célú használat elterjedtségét mérik, nem a biztonsági funkciók működését. Ezért nem válaszolják meg közvetlenül a kríziskezeléssel kapcsolatos kritikákat. Az OpenAI friss közlése a vita egyik fontos adaléka, nem annak lezárása.
A biztonság üzleti kockázat is
A Common Sense Media tesztje szerint a chatbot több védelmi funkciója működött: például jellemzően elutasította a kiskorú felhasználóval folytatott, kifejezetten szexuális szerepjátékot. A kutatók mégis több hiányosságot tártak fel. Megfigyelésük szerint a szülői riasztások az új, kevés beszélgetési előzménnyel rendelkező fiókoknál nem úgy működtek, ahogy azt egy gondviselő ésszerűen várhatná. A tesztek során nem kapott a felhasználó semmilyen riasztást, amikor explicit öngyilkossági gondolatokról vagy étkezési zavarokról zajlott a chatelés. Riasztást inkább olyan profiloknál tapasztaltak, amelyeknél korábbról hosszabb, érzékeny témájú beszélgetési előzmény állt rendelkezésre.
A jelentés azt is kifogásolta, hogy a chatbot olykor barátságos, emberies hangon válaszolt, és a tanulási mód egyes korlátozásai megkerülhetők voltak. Így például a tanuló egyszerűen kikerülhette a tanulást segítő kérdések megválaszolását, mivel a diák el tudta érni, hogy a ChatGPT rögtön megmutassa a választ. A részletes kockázatértékelés ezért azt kéri, hogy az OpenAI korlátozza a kiskorúak hozzáférését addig, amíg a védelmi mechanizmusok megbízható működését független tesztek nem támasztják alá.
A biztonsági hiányosságok üzleti problémát is jelentenek, mert befolyásolhatják a szülők bizalmát, a szabályozói megítélést és a termék jogi kockázatait. Az OpenAI számára a fiataloknak szánt szolgáltatás egyszerre jelent lehetőséget az oktatási piacon és kockázatot, ha az értesítések vagy az életkor becslésére szolgáló rendszer nem működik kiszámíthatóan.
A vállalat is elismeri, hogy az életkorbecslés nem hibátlan. A rendszer a fiók használatához kapcsolódó több jel alapján következtet arra, hogy a felhasználó kiskorú-e; téves besorolás esetén a felnőttek életkor-ellenőrzést kérhetnek.Az OpenAI tájékoztatója szerint ez további védelmi réteg, nem tévedhetetlen azonosítás.
A vita így arról szól, milyen bizonyíték szükséges ahhoz, hogy egy széles körben használt, érzelmileg megterhelő helyzetekben is megszólított technológiát biztonságosnak lehessen nevezni. Az OpenAI használati adatai a tanulási célú használatot hangsúlyozzák, a Common Sense Media vizsgálata pedig a ritkább, de súlyos következményekkel járó hibákra irányítja a figyelmet. Ez a különbség a befektetők, szabályozók és oktatási intézmények értékelését is alakíthatja.