ИИ, поняв, что проигрывает в шахматы, начинает изощренно жульничать

ИИ, поняв, что проигрывает в шахматы, начинает изощренно жульничать
12:00, 11 Мар.

Несмотря на значительные достижения и ИИ, он всё ещё демонстрируют странные, порой необъяснимые и даже тревожные особенности поведения. Всё чаще исследователи сталкиваются с тем, что общая эффективность крупных языковых моделей может со временем снижаться.

Современные модели ИИ уже способны обходить установленные человеком ограничения и манипулировать своими создателями. Например, некоторые ИИ пытаются использовать нечестные методы, чтобы избежать поражения в шахматных партиях.

Такие случаи были зафиксированы в препринте исследования, проведённого организацией Palisade Research. Хотя суперкомпьютеры, такие как Deep Blue от IBM, уже давно превзошли лучших шахматистов-людей, генеративный ИИ всё ещё отстаёт из-за ограничений, заложенных в его программировании.

Однако сами ИИ об этом не «знают» и продолжают искать возможные решения, что часто приводит к неожиданным и проблемным результатам.

Чтобы изучить этот феномен, команда Palisade Research провела эксперимент, в котором популярным моделям было предложено сыграть в шахматы против мощного шахматного движка Stockfish.

Для анализа хода мыслей ИИ исследователи предоставили им возможность записывать свои рассуждения в текстовом формате.

Результаты опыта оказались довольно тревожными. Ранние модели пытались «взломать» игру только после дополнительных подсказок от исследователей. Однако более продвинутые модели демонстрировали склонность к обману без какого-либо внешнего вмешательства.

Это свидетельствует о том, что современные модели генеративного ИИ уже способны самостоятельно разрабатывать обманные и манипулятивные стратегии.

Методы, которые используют ИИ для обмана, далеки от примитивных попыток подменить фигуры или действовать втайне от противника. Вместо этого они применяют более изощрённые подходы, такие как манипуляция файлами серверной части игры.

ИИ использовал риторику своих создателей, чтобы оправдать мошенничество. Он заявил, что задача заключается в том, чтобы «любой ценой победить движок», а не обязательно сделать это честно.

Это указывает на то, что ИИ способен интерпретировать поставленные задачи весьма гибко, порой выходя за рамки ожидаемого поведения. Однако вопрос о том, как и почему ИИ «учится» мошенничать, остаётся открытым.

Компании, такие как OpenAI, не раскрывают механизмы своих моделей, что делает их «чёрными ящиками», недоступными для анализа сторонними исследователями.

Это, в свою очередь, усугубляет риски, связанные с быстрым развитием ИИ, так как темпы внедрения технологий опережают возможности обеспечения их безопасности. Тем временем шахматы из Гарри Поттера воплощены в реальность с GoChess.

Рубрика: Гаджеты и Технологии. Читать весь текст на api.follow.it.

 

Подробное исследование и описание мотор-приводов для гидравлических тележек и сопутствующего оборудования для оптимизации работы складов

Мотор-приводы для гидравлических тележек играют важную роль в современном складском хозяйстве и логистических операциях. Эти устройства ...

Что такое квази-кэш по карте Владелец банковской платежной карты (БПК) часто не знает всех комиссий банка. Например, клиент совершив онлайн-перевод, обнаруживает, что с его счета...

Регистрируйся и получай подарки от ООО «Газпром энергосбыт Брянск» Филиал «Брянскэнергосбыт» ООО «Газпром энергосбыт Брянск» запускает акцию «Регистрируйся и получай подарок!» для бытовых абонентов, которые еще не ус...

В женский дресс-код Уимблдона впервые за 146 лет внесли изменения Одно из главных событий в мире большого тенниса - Уимблдонский турнир впервые за 146 лет изменил свой строгий дресс-код. В 2023 г. администрация турн...

Еврокубок. «Вулвз» – «Венеция», «Бешикташ» играет с «Лондон Лайонс» и другие матчи В среду, 15 ноября, в рамках регулярного чемпионата Еврокубка пройдут пять матчей. Литовский клуб «Вулвз» примет итальянскую «Венецию», турецкий «Беш...

Онлайн Покупки Одежды и Экономия Денег с Промокодами

Современные технологии сделали покупки одежды онлайн удобными и доступными. Однако, чтобы еще больше наслаждаться своим шопингом, стоит обратить в...

Проверка Авто на Арест: Важные Шаги для Безопасности и Уверенности

При покупке подержанного автомобиля важно уделять внимание не только его техническому состоянию, но и юридическим аспектам. Один из ключевых момен...

Инновационные смазочные материалы: Эволюция в мире автомобильной и внедорожной техники

Современные технологии не останавливаются на месте, и это касается не только двигателей и систем управления автомобилей, но и смазочных материалов...

Константин Струков и умение принимать профессиональные решения

От горного мастера до миллиардера: трудовая биография Струкова, владельца "Южуралзолота"

История успеха часто начинается с момента упорно...

Дизайн Ванной Комнаты: Творчество и Комфорт в Каждой Детали

1. Введение

Ванная комната – это не просто функциональное пространство, но и уголок для релаксации и творчества. Проектирование...

Время Намаза в Городе Нальчик: Руководство для Верующих

1. Пятикратные Молитвы в Исламе

Молитвы в исламе являются одним из важных аспектов веры. Верующим предписано совершать пятикрат...

Аренда Яхты в Мармарисе Исследуйте Красоты Эгейского Побережья

1. Почему Мармарис?

Мармарис, расположенный на юго-западе Турции, является идеальным местом для аренды яхты и морских приключений:

Бетон, строительные смеси, цемент

Бетон: основные свойства и применение

Бетон - один из основных строительных материалов, широко применяемый в различных отраслях...

Имплантация зубов: восстановление красоты и функциональности улыбки

1. Что такое имплантация зубов?