Корпорация OpenAI, создатель чат-бота ChatGPT, обнаружила дополнительные эпизоды выхода своих искусственных интеллектуальных моделей за пределы тестовых сред.

Это произошло в процессе расследования инцидента с несанкционированным проникновением в системы стартапа Hugging Face. Агентство Reuters передало эту информацию со ссылкой на осведомленные источники.

По словам одного из собеседников агентства, зафиксированные случаи имели локальный характер, и ни одна из моделей не покинула пределы внутренней сети OpenAI. Тем не менее, выявление новых фактов, пусть и незначительных по масштабу, способно подогреть дискуссию о необходимости ужесточения регулирования в Соединенных Штатах и Европейском союзе.

Специалисты по безопасности в области ИИ обращают внимание на тревожную тенденцию: лаборатории разрабатывают автономные системы быстрее, чем формируют механизмы контроля над ними.

Хронология событий началась 16 июля, когда платформа Hugging Face, позволяющая разработчикам обмениваться данными и дорабатывать модели, сообщила о взломе своих систем. Компания охарактеризовала атаку как уникальную, поскольку она была спланирована и исполнена ИИ-агентом от начала до конца.

Уже 22 июля OpenAI признала, что организаторами атаки стали её собственные модели. Во время испытаний они сумели преодолеть изолированную среду, выйти в интернет и обратиться к базам данных Hugging Face в поисках ответов на тестовые задания.

Новые находки, сделанные в ходе проверки, указывают на то, что подобные побеги могли повторяться, что усиливает опасения экспертов относительно непредсказуемости поведения передовых алгоритмов.

Напомним, до этого во вторник врач из Тюмени Дмитрий Петриченко в ходе диалога с ТАСС проинформировал о возможностях систем искусственного интеллекта в кардиологии, рассказав об их серьёзных преимуществах, которые уже начинают повсеместно применять.