
Люди обычно чувствуют, что ступили на незнакомую территорию и их знания заканчиваются. У искусственного интеллекта такого инстинкта нет: он учится на отобранных данных и может оказаться беспомощным, когда мир выглядит иначе, чем во время обучения. Европейский проект E-pi научил алгоритмы распознавать собственное незнание и проверил это там, где ошибка может обойтись дороже всего, в автономных автомобилях. В конце ты узнаешь, как сам справляешься с неопределённостью.
Искусственный интеллект сегодня проникает почти повсюду. Он движет экономику и меняет наши дома, школы и рабочие места. Однако у него есть слабое место, о котором говорят реже, чем о его успехах. Модель учится на конкретном наборе данных, а затем должна работать в мире, который не всегда похож на то, что она видела во время обучения. Именно тогда и начинаются проблемы.
Этой проблемой занялся проект E-pi, финансируемый ЕС и координируемый Университетом Оксфорд-Брукс (Oxford Brookes University) в Великобритании. Его команда пять лет работала над так называемым эпистемическим искусственным интеллектом, то есть искусственным интеллектом, который лучше справляется с неопределённостью и способен делать прогнозы даже в ситуациях, отличающихся от обучающих данных.
Слово «эпистемический» происходит от эпистемологии, раздела философии, изучающего знание. Оттуда берётся способность, совершенно естественная для человека: замечать, что того, что мы знаем, в данной ситуации недостаточно. Это один из базовых элементов человеческого интеллекта.
Машина сама этого не умеет. Для искусственного интеллекта распознавание собственного незнания должно опираться на теоретические и математические основы. Иными словами, ощущение, что мы больше не уверены, нужно буквально вписать в конструкцию алгоритма.
Координатор проекта Фабио Куццолин (Fabio Cuzzolin) обращает внимание, что классические алгоритмы машинного обучения сосредоточены на объяснении сравнительно небольшого обучающего набора, а не всех данных, которые могут появиться в реальности. Последствия нетрудно предсказать. «Традиционные модели искусственного интеллекта с трудом делают надёжные прогнозы, когда распределения вероятностей, порождающие данные, отличаются от тех, что были во время обучения», объясняет исследователь.
Проще говоря, модель, которая хорошо знает лишь кусочек мира, может растеряться, столкнувшись с чем-то за пределами этого кусочка. Консорциум E-pi пришёл к выводу, что теория неопределённости второго порядка является наиболее перспективной основой для решения. Презентации проекта были с энтузиазмом встречены на профессиональных конференциях, а Куццолина пригласили принять участие в нескольких связанных заявках программы «Горизонт Европа». Работа команды призвана помочь построить международную экосистему эпистемического искусственного интеллекта.
Где лучше всего испытывать искусственный интеллект, которому предстоит справляться с непредсказуемым? Исследователи выбрали автономные транспортные средства. На дороге ситуация может внезапно выйти за рамки любого шаблона из-за поведения пешеходов, экстремальной погоды или необычной схемы дороги. Ошибки нынешних систем могут обойтись дорого, а в худшем случае привести к смертельным травмам.
Команда использовала набор данных ROAD, посвящённый распознаванию дорожных событий автономными транспортными средствами. Он служил как для обучения модели, так и для тестирования новых эпистемических детекторов объектов. ROAD постоянно расширяется и содержит видео из Европы, Северной Америки, Дубая и Абу-Даби, что сделало его поистине глобальным ресурсом.
Более безопасные беспилотные автомобили лишь одна из целей. Та же логика может пригодиться и в других областях:
Ядерный синтез особенно сложный пример. «Мы работаем над созданием нейронных операторных моделей, учитывающих неопределённость, чтобы предсказывать, как плазма синтеза будет течь внутри токамака и какие области реакторов она затронет сильнее всего», говорит Куццолин. Такие модели призваны прогнозировать течение плазмы внутри токамака, то есть реактора, и указывать, какие его области подвергнутся наибольшему воздействию. И здесь суть та же: модель должна не только выдавать результат, но и честно сообщать, насколько она в нём уверена.
Другое направление касается генеративного искусственного интеллекта. «Современные передовые большие языковые модели (LLM) известны тем, что генерируют ложные утверждения», признаёт Куццолин. По его мнению, выходом могут стать модели, построенные на новой парадигме: «Эпистемические LLM могут существенно снизить чрезмерную самоуверенность этих моделей».
Планы также включают решения, связанные с теорией сознания, и системы, развивающиеся благодаря непрерывному обучению. Общий знаменатель остаётся прежним: искусственный интеллект должен не только отвечать, но и знать, когда его ответ опирается на шаткие основания.
Проект E-pi, общая стоимость которого составила около 3 миллионов евро, способствовал разработке более безопасных автономных транспортных средств и роботов, а также генеративного искусственного интеллекта, который не галлюцинирует. Он также создал динамичную сеть специалистов по машинному обучению. Его авторы утверждают, что эпистемический искусственный интеллект способен изменить мир и нашу повседневную жизнь. И всё начинается с очень человеческого умения: признать, что ты чего-то не знаешь.
5 вопросов · одна минута