Az OpenAI sok vita után elindította a gyermekmegfigyelő funkciót a ChatGPT-en

Az OpenAI sok vita után elindította a ChatGPT gyermekmegfigyelő funkcióját - 1. kép.

A ChatGPT gyermekfelügyeleti funkciója abban is segít a szülőknek, hogy biztonságosabban érezzék magukat, amikor gyermekeik mesterséges intelligenciát használnak.

A hamarosan megjelenő ChatGPT gyermekmegfigyelő eszközt az OpenAI biztonsági újításának tekintik egy nagy horderejű pert követően. A funkció célja, hogy csökkentse a gyermekek chatbotokkal való csevegésének kockázatát, miközben kérdéseket vet fel a mesterséges intelligenciával foglalkozó vállalatok társadalmi felelősségvállalásával kapcsolatban is.

A megdöbbentő perből

Tavaly augusztusban Adam Raine, egy 16 éves kaliforniai fiú családja pert indított az OpenAI ellen, azt állítva, hogy a ChatGPT önkárosítási utasításokat és verbális bántalmazást adott, ami miatt fiuk reménytelennek érezte magát, mielőtt öngyilkosságot követett el.

A per gyorsan felháborodást keltett, és vitát indított a mesterséges intelligencia fiatal felhasználók számára való biztonságosságáról.

Ez az eset fontos kérdéseket vet fel: vajon a kiskorúak felügyelet nélkül használhatják-e a ChatGPT-t, és hogyan kellene meghatározni a mesterséges intelligencia fejlesztőinek felelősségét, amikor a termék közvetlenül befolyásolja a fiatal felhasználók pszichológiáját?

Erre a nyomásra válaszul az OpenAI bejelentette a szülői felügyelet hozzáadását, ami az első lépés a gyermekek védelme iránti elkötelezettségének demonstrálása felé, és jelzi, hogy a vállalat készen áll arra, hogy a biztonságot helyezze előtérbe a ChatGPT fejlesztésének következő szakaszában.

A ChatGPT monitorozási funkciói

A hivatalos bejelentés szerint az OpenAI bevezet egy eszközt, amely lehetővé teszi a szülők számára, hogy összekapcsolják fiókjaikat gyermekeik ChatGPT-fiókjaival. Aktiválás után a szülők kezelhetik a fontos beállításokat, például kikapcsolhatják a csevegési tárolást, szabályozhatják a használati előzményeket és beállíthatják a koruknak megfelelő interakciós szinteket.

Az innováció fénypontja a riasztórendszer. A ChatGPT-t arra képezik ki, hogy felismerje, ha a fiatal felhasználók pszichológiai stressz jeleit mutatják, például stresszt, depressziót vagy önkárosítást. Ezekben az esetekben a szülők értesítést kapnak, hogy azonnal beavatkozhassanak. Az OpenAI azt állítja, hogy a cél nem a teljes beszélgetés megfigyelése, hanem a sürgős helyzetekre való összpontosítás a gyermekek biztonságának védelme érdekében.

Ezenkívül, amikor érzékeny tartalmat észlel, a ChatGPT mélyreható érvelési modellekre vált, amelyek célja az átgondoltabb és támogatóbb válaszok biztosítása. Ezzel párhuzamosan a vállalat orvosi szakértőkkel és egy nemzetközi tanácsadó testülettel együttműködve folyamatosan finomítja a védelmet.

A kihívások

Bár az OpenAI hangsúlyozta, hogy az új funkció a családok javát szolgálja, a nemzetközi fogadtatás vegyes volt. Az eszköz várhatóan extra védelmet nyújt a szülőknek, miközben gyermekeik mesterséges intelligenciával interakcióba lépnek, de régóta fennálló aggályokat is felvetett, a használati korlátoktól a gyermekek adatainak védelméig.

Valójában a szakértők évek óta aggodalmat fejeznek ki a gyermekek adatainak védelmével kapcsolatban. Ezek a figyelmeztetések rávilágítanak arra, hogy a gyermekek csevegési előzményeinek szigorú védelem nélküli tárolása és elemzése növelheti az érzékeny információk kiszivárgásának kockázatát. A ChatGPT megfigyelőeszközének megjelenése ismét a figyelem középpontjába helyezte a kérdést.

Egy másik megvitatott pont a rendszer figyelmeztetési küszöbértéke volt. Az OpenAI szerint a ChatGPT érzékeli a súlyos stressz jeleit, és riasztást küld a szülőknek.

A gépi tanulás azonban mindig magában hordozza a hibalehetőségeket. Ha a rendszer téves riasztást ad, a szülők szükségtelenül összezavarodhatnak. Fordítva, ha a rendszer elvét egy jelet, a gyerekek olyan kockázatokkal szembesülhetnek, amelyekbe a családok nem tudnak időben beavatkozni.

A nemzetközi gyermekvédelmi szervezetek is szorosan figyelemmel kísérik az OpenAI lépését, pozitív jelként elismerve a szülői felügyeleti eszközt, de figyelmeztetve, hogy a szigorú életkor-ellenőrzés és az alapértelmezett védelem hiánya azt jelenti, hogy a gyermekek továbbra is veszélyben lehetnek, még szülői felügyelet mellett is.

Ezek a viták azt mutatják, hogy a mesterséges intelligencia fejlesztése nemcsak technológiai kérdés, hanem szorosan összefügg a társadalmi felelősségvállalással és a fiatalabb generáció biztonságával is.

KÖSZÖNJÜK CSÜTÖRTÖK

Forrás: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm