Новое исследование предполагает, что продвинутые модели ИИ довольно хорошо умеют вести себя глупее, чем они есть на самом деле, что может иметь серьезные последствия, поскольку они продолжают становиться умнее.

Данное исследование опубликовано в журнале PLOS One. Исследователи из Берлинского университета Гумбольдта обнаружили, что при тестировании большой языковой модели (LLM) по так называемым критериям «теории разума» они обнаружили, что ИИ не только может имитировать этапы изучения языка у детей, но, похоже, выражает нечто похожее на умственные способности, связанные с этими этапами.

Опираясь на теорию разума, ориентированную на детей, другие исследователи из Карлова университета в Праге попытались определить, могут ли LLM (Большие языковые модели), такие как GPT-4 от OpenAI, «притворяться менее способными, чем они есть на самом деле».

Чтобы выяснить это, исследовательская группа проинструктировала модели при ответе вести себя как ребенок в возрасте от одного до шести лет. Когда они прошли серию из более чем 1000 испытаний и когнитивных тестов, оказалось, что эти «симулированные персонажи—дети» действительно развиваются почти так же, как дети того возраста, и в конечном счете продемонстрировали, что модели могут притворяться менее умными, чем они есть на самом деле.

В конечном счете эти результаты могут помочь развитию искусственного сверхразума (ASI) – следующего шага после искусственного общего интеллекта человеческого уровня (AGI), и помогут сделать его безопаснее.

Фото превью / Denny Muller / unsplash.com

ИИ может притворяться глупее, чем он есть на самом деле