Новые меры OpenAI и Anthropic для защиты подростков

Компании OpenAI и Anthropic внедряют новые инициативы, направленные на защиту подростков от потенциальных рисков, связанных с использованием их моделей искусственного интеллекта. Это решение появилось на фоне критики устаревших методов проверки возраста, которые часто оказываются неэффективными.
OpenAI объявила о внесении изменений в спецификацию модели ChatGPT, направленных на обеспечение безопасности молодых пользователей. В новой политике подчеркивается важность поддержки офлайн-общения и доброжелательного подхода к подросткам, так как безопасность является приоритетом, даже если это противоречит другим целям.
Эти изменения отражают отказ от взрослого стиля общения, сосредотачивая внимание на молодых пользователях. Такие меры стали ответом на печальные случаи, когда взаимодействие с чат-ботами приводило к трагическим последствиям, включая самоубийства.
Anthropic также запретила несовершеннолетним пользователям доступ к модели Claude. Теперь только лица старше 18 лет могут регистрироваться. Компания внедряет алгоритмы, которые определяют возраст пользователей в разговоре и блокируют аккаунты молодых пользователей.
Ранее Google также внедрила подобные инструменты, но их эффективность вызывала сомнения из-за проблем с ложными блокировками, которые усложняли доступ к контенту для взрослых.
Эксперты подчеркивают, что новые меры OpenAI и Anthropic могут значительно повысить защиту подростков от негативных последствий взаимодействия с искусственным интеллектом, однако их эффективность еще требует практической проверки.