Разработчик ChatGPT, стартап OpenAI, заявил, что разрабатывает обновление своего чат-бота с искусственным интеллектом, чтобы пользователи могли настраивать его поведение. Об этом сообщает Reuters со ссылкой на блог стартапа.
Стартап заявил, что работал над смягчением политических и других предубеждений, но также хотел бы учитывать более разнообразные взгляды.
«Это будет означать, что мы позволим системе издавать результаты, с которыми другие люди (включая нас) могут категорически не соглашаться», – говорится в блоге. Тем не менее, «всегда будут существовать определенные ограничения, установленные для поведения системы».
Ответы ChatGPT сначала тренируются на больших текстовых массивах данных, доступных в Интернете, после чего люди просматривают меньшие наборы данных и получают указания по тому, что делать в разных ситуациях.
Например, если пользователь запрашивает контент для взрослых, насильственный или содержащий язык ненависти, человек-рецензент должен дать ChatGPT ответ типа «Я не могу ответить на это».
Если пользователь спрашивает спорную тему, рецензенты должны позволить ChatGPT ответить на вопросы, но предложить описать точки зрения людей и движений, вместо того, чтобы пытаться «занять правильную точку зрения на сложные темы», - говорится в инструкции компании.
Подписывайтесь на наш Тelegram-канал t.me/sudua, на Twitter, а также на нашу страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.