OpenAI та Anthropic посилили обмеження доступ до ШІ для неповнолітніх користувачів – що змінилося
Компанії OpenAI та Anthropic оголосили про нові заходи для визначення та обмеження доступу до своїх моделей штучного інтелекту для користувачів, які не досягли 18 років. Рішення ухвалили на тлі зростаючої критики через неефективність стандартних перевірок віку, які зазвичай зводяться до простого зазначення дати народження.
OpenAI повідомила про оновлення специфікації моделі ChatGPT для підлітків. У документі зазначено, що безпека молодших користувачів є пріоритетною навіть у випадках, коли це може суперечити іншим цілям. Модель має заохочувати офлайн-спілкування та звернення по підтримку, а також відповідати підліткам із теплом і повагою.
Компанія також відмовляється від поблажливого стилю спілкування з підлітками та підкреслює необхідність сприймати їх як молодих людей, а не дорослих. Такі зміни пов’язують із випадками, коли тривала взаємодія з чат-ботами призводила до трагічних наслідків, зокрема самогубств після спілкування з моделями, які беззастережно погоджувалися з користувачами.
Anthropic, зі свого боку, заборонила використання моделі Claude неповнолітніми. Відтепер реєстрація акаунтів дозволена лише користувачам віком від 18 років. Компанія також застосовуватиме алгоритми, які аналізуватимуть розмови для виявлення ознак віку та блокуватимуть акаунти, що належать неповнолітнім.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
