Ведущий правительственный советник по искусственному интеллекту (ИИ) предупредил, что предприятия, использующие ChatGPT, рискуют создать «опасные ситуации», поскольку чат-бот «плохо обучен и предвзят».
Инма Мартинес, председатель экспертной группы инициативы стран G7/G20 в области искусственного интеллекта, поговорила с Travel Weekly перед выступлением на съезде Abta Travel в октябре.
Она сказала, что ChatGPT был запущен «в качестве эксперимента», и описала его как «плохо обученную и предвзятую языковую модель, которая нарушает законы об авторском праве и создает опасные ситуации для предприятий, не осознающих, что она не защищает их интеллектуальную собственность».
Подробнее : Интервью: правительственный советник по искусственному интеллекту Инма Мартинес
Мартинес выразил обеспокоенность по поводу воздействия обучения моделей ИИ на окружающую среду и качества данных, используемых для их обучения.
Запуск ChatGPT-3.5 в ноябре прошлого года, сложного чат-бота или модели большого языка (LLM), обученного на огромных наборах данных, был широко расценен как прорыв в генеративном искусственном интеллекте.
Мартинес объяснила: «Обучение больших моделей ИИ требует значительных вычислительных ресурсов, что приводит к значительному потреблению энергии».
Она предупредила, что это может «исчерпать энергосистему» и «заставить правительства запретить ее дальнейшее развитие».
Мартинес добавила: «Качество данных является вторым по значимости проблемой.
Качество данных в больших наборах данных может значительно различаться, включая ошибки, неточности и «шум».
Модели могут извлечь из этого уроки, что повлияет на их надежность.
Если данные обучения содержат предвзятости, модели ИИ могут увековечить эти предвзятости».
Она предупредила о создании «дезинформации», когда система ИИ «пытается заполнить пробелы в своих знаниях, но ей не хватает точной информации или контекста», заявив: «Модели ИИ не проверяют информацию перед выработкой ответов.
Они могут генерировать утверждения, которые являются неточными, вводящими в заблуждение или даже вымышленными.
В своем стремлении продолжать отвечать на вопросы они изобретают совершенно новую реальность, которая противоречит цели их использования».
Она обвинила в ажиотаже вокруг этой технологии «людей, которые притворялись, что используют ChatGPT для задач, для которых он никогда не предназначался».
Tui входит в число крупнейших компаний, тестирующих использование ChatGPT.
Директор по информационным технологиям группы Питер Йордан настаивает на том, что компания осознает опасность.
«Важно понимать, что ChatGPT дает правдоподобный ответ, но у него нет фактической базы», — сказал он.
Он предсказал «правовые и политические баталии» по поводу использования ИИ, отметив: «Вы не можете отправлять личную информацию в эти модели, и это будет в безопасности».
