Суд в США признал незаконной отмену грантов, которые анализировали ChatGPT
Федеральный судья в Нью-Йорке постановила, что отмена Департаментом эффективности правительства США (DOGE) более 140 гуманитарных грантов на сумму свыше 100 миллионов долларов была неконституционной. Иск подали некоммерческая организация Authors Guild и несколько индивидуальных получателей грантов Национального фонда гуманитарных наук, пишет Pcmag.com.
В решении окружная судья США Коллин Макмегон обратила внимание на то, что Департамент эффективности правительства (DOGE) использовал OpenAI ChatGPT в части процесса принятия решений.
Джастин Фокс, бывший сотрудник DOGE, засвидетельствовал, что его команда использовала инструмент искусственного интеллекта, чтобы «вытащить все, что касается DEI» и «подчеркнуть, почему грант может быть связан с DEI» (Diversity, Equity, and Inclusion — Разнообразие, Равенство и Инклюзивность).
Согласно материалам дела, ChatGPT получил задачу проанализировать таблицу с описаниями грантов и запрос: «Относится ли следующее хоть как-то к DEI? Отвечайте фактически менее чем в 120 символах». Однако, как отмечено в решении, команда DOGE не предоставила ChatGPT определения термина «DEI».
Фокс также сообщил, что не был уверен в том, как ChatGPT понимает этот термин, а самому чат-боту не поручали учитывать «цель, методологию или научную суть проекта».
Еще один проект, финансирование которого было прекращено, под названием «How the City Became Plastic», был посвящен тому, как пластиковая индустрия лоббировала городских чиновников. Его обозначили как связанный с DEI, хотя он касался промышленной политики и проблемы микропластика в водоснабжении.
«Материалы дела свидетельствуют, что эти выводы ChatGPT были сгенерированы без какого-либо дополнительного контекста, кроме поверхностных описаний в таблице», — говорится в решении.
Судья также отметила, что из-за «склонности генеративного ИИ к галлюцинациям» было бы «совсем не удивительно», если бы ChatGPT делал предположения о мотивах DOGE лишь для того, чтобы удовлетворить ожидания пользователя.
«Полное отсутствие логики во многих из этих «обоснований» явно на это указывает», — сказано в решении.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER и WhatsApp, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
