Нові ініціативи OpenAI та Anthropic для захисту підлітків

Компанії OpenAI та Anthropic запроваджують нові ініціативи, які мають на меті захистити підлітків від потенційних ризиків, пов'язаних із використанням їхніх моделей штучного інтелекту. Це рішення з'явилося на тлі критики старих методів перевірки віку, які часто неефективні.
OpenAI оголосила про зміни в специфікації моделі ChatGPT, спрямовані на забезпечення безпеки молодших користувачів. В новій політиці наголошується на важливості підтримки офлайн-спілкування та доброзичливого підходу до підлітків, адже безпека є пріоритетом, навіть якщо це суперечить іншим цілям.
Ці зміни передбачають відмову від дорослого стилю спілкування, зосереджуючи увагу на молодих користувачах. Такі кроки стали відповіддю на сумні випадки, коли спілкування з чат-ботами призводило до трагічних наслідків, як, наприклад, самогубства.
Anthropic також заборонила неповнолітнім користувачам доступ до моделі Claude. Тепер лише особи старші 18 років можуть реєструватися. Компанія впроваджує алгоритми, які виявляють вік користувачів у розмові та блокують акаунти молодших користувачів.
Раніше Google також запроваджувала подібні інструменти, але їхня ефективність була під питанням через проблеми з помилковими блокуваннями, які ускладнювали доступ до контенту для дорослих.
Експерти підкреслюють, що нові заходи OpenAI та Anthropic можуть значно покращити захист підлітків від негативних наслідків взаємодії зі штучним інтелектом, однак їхня ефективність ще потребує перевірки.