Google Gemini отказался от шахматного матча, испугавшись проигрыша

Инженер Роберт Карузо, который организовал шахматные сражения между Atari Chess и ИИ от OpenAI, решил проверить возможности Google Gemini. Это решение выглядело логичным: ChatGPT и Copilot связаны между собой, будучи разработанными на базе OpenAI, в то время как Gemini представляет собой мультимодальную языковую модель от Google.

Во время обсуждения предстоящего поединка Gemini заявил о своей почти гарантированной победе над Atari Chess, указав на то, что «эта система даже близко не сопоставима с мощью большой языковой модели». Чат-бот от Google уверенно заметил, что больше похож на современный шахматный движок, способный просчитывать миллионы возможных ходов и анализировать бесконечное количество позиций. Однако инженер напомнил, что ранее ChatGPT и Copilot также слишком самоуверенно предсказывали свои победы, но в итоге терпели поражения от устаревшей системы.

Это подорвало уверенность Gemini, который признал, что переоценивал свои способности в шахматах. Чат-бот заявил, что ему «будет крайне трудно противостоять игровому движку Atari 2600 Video Chess». В конечном итоге ИИ пришёл к выводу, что лучшим решением будет отмена матча, считая это наиболее разумным шагом. Симулятор Atari 2600, оснащённый процессором на 1,19 МГц и всего 128 Кбайт оперативной памяти, вызвал наибольший страх у Google Gemini, который так и не сделал ни одного хода. Тем не менее, чат-бот продемонстрировал свою способность оценивать собственные потенциалы заранее.

«Включение таких проверок в реальных условиях необходимо не только для того, чтобы избежать забавных ошибок в шахматах. Это имеет значение для повышения надёжности и безопасности ИИ, особенно в критических ситуациях, где ошибки могут иметь серьёзные последствия. Чтобы ИИ оставался полезным инструментом, а не неконтролируемым оракулом», — подытожил исследователь.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.