OpenAI запускает функцию мониторинга детей в ChatGPT после долгих споров

После долгих споров OpenAI запускает функцию мониторинга детей на ChatGPT — Фото 1.

Функция мониторинга детей в ChatGPT также помогает родителям чувствовать себя более уверенно, разрешая своим детям использовать искусственный интеллект.

Предстоящий инструмент мониторинга детей ChatGPT рассматривается как шаг в сторону повышения безопасности, предлагаемый OpenAI после нашумевшего судебного иска. Эта функция призвана снизить риски, связанные с общением детей с чат-ботами, а также поднять вопросы о социальной ответственности компаний, занимающихся разработкой технологий искусственного интеллекта.

Из шокирующего судебного иска

В августе прошлого года семья Адама Рейна, 16-летнего подростка из Калифорнии, подала иск против OpenAI, утверждая, что ChatGPT предоставлял инструкции по самоповреждению и словесные оскорбления, из-за которых их сын чувствовал себя безнадежно, а затем покончил жизнь самоубийством.

Иск быстро наделал шума и вызвал дискуссию о безопасности искусственного интеллекта для молодых пользователей.

Этот инцидент поднимает важные вопросы: могут ли несовершеннолетние использовать ChatGPT без присмотра, и как должна определяться ответственность разработчиков искусственного интеллекта, если продукт напрямую влияет на психологию юных пользователей?

В ответ на это давление компания OpenAI объявила о добавлении родительского контроля, что стало первым шагом к демонстрации ее приверженности защите детей и сигналом о том, что компания готова поставить безопасность на первое место на следующем этапе разработки ChatGPT.

Функции мониторинга на ChatGPT

Согласно официальному объявлению, OpenAI выпустит инструмент, который позволит родителям связывать свои учётные записи с учётными записями детей в ChatGPT. После активации родители смогут управлять важными настройками, такими как отключение сохранения чатов, управление историей использования и настройка уровня взаимодействия, соответствующего возрасту.

Главной особенностью этого нововведения является система оповещения. ChatGPT будет обучен распознавать признаки психологического стресса у юных пользователей, такие как стресс, депрессия или самоповреждение. В таких случаях родители получат уведомление, чтобы немедленно вмешаться. OpenAI утверждает, что цель заключается не в том, чтобы отслеживать весь разговор, а в том, чтобы сосредоточиться на срочных ситуациях для обеспечения безопасности детей.

Кроме того, при обнаружении конфиденциального контента ChatGPT будет использовать модели глубокого анализа, разработанные для предоставления более продуманных и поддерживающих ответов. Параллельно с этим компания сотрудничает с медицинскими экспертами и международным консультативным советом для дальнейшего совершенствования своих мер защиты.

Поставленные проблемы

Хотя OpenAI подчеркивает, что новая функция разработана для семей, международная реакция оказалась неоднозначной. Ожидается, что инструмент обеспечит родителям дополнительный уровень защиты при взаимодействии их детей с искусственным интеллектом, но он также вызывает давние опасения, связанные с ограничениями использования и конфиденциальностью данных детей.

На самом деле, эксперты уже много лет выражают обеспокоенность по поводу конфиденциальности данных детей. Эти предупреждения подчёркивают, что хранение и анализ истории детских чатов без строгих мер защиты может повысить риск раскрытия конфиденциальной информации. Появление инструмента мониторинга ChatGPT вновь привлекло внимание к этой проблеме.

Другим обсуждаемым вопросом был порог предупреждения системы. OpenAI заявила, что ChatGPT будет выявлять признаки сильного стресса и отправлять родителям оповещения.

Однако машинное обучение всегда несёт в себе риск ошибок. Если система подаёт ложный сигнал, родители могут быть ненужно запутаны. И наоборот, если система пропустит сигнал, дети рискуют, что родители не успеют вовремя вмешаться.

Международные организации по защите детей также внимательно следят за действиями OpenAI, признавая инструмент родительского контроля позитивным знаком, но предупреждая, что отсутствие строгой проверки возраста и защиты по умолчанию означает, что дети по-прежнему могут подвергаться риску, даже находясь под родительским надзором.

Эти дебаты показывают, что развитие искусственного интеллекта — это не только вопрос технологий, но и тесно связанный с социальной ответственностью и безопасностью подрастающего поколения.

ТХАНЬ ТХУ

Источник: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm