Искусственный интеллект, который знает, чего он не знает + test

Автомобили едут по автомагистрали в тумане среди осенних деревьев

Люди обычно чувствуют, что ступили на незнакомую территорию и их знания заканчиваются. У искусственного интеллекта такого инстинкта нет: он учится на отобранных данных и может оказаться беспомощным, когда мир выглядит иначе, чем во время обучения. Европейский проект E-pi научил алгоритмы распознавать собственное незнание и проверил это там, где ошибка может обойтись дороже всего, в автономных автомобилях. В конце ты узнаешь, как сам справляешься с неопределённостью.

Содержание

⇑Когда обучающих данных становится недостаточно

Искусственный интеллект сегодня проникает почти повсюду. Он движет экономику и меняет наши дома, школы и рабочие места. Однако у него есть слабое место, о котором говорят реже, чем о его успехах. Модель учится на конкретном наборе данных, а затем должна работать в мире, который не всегда похож на то, что она видела во время обучения. Именно тогда и начинаются проблемы.

Этой проблемой занялся проект E-pi, финансируемый ЕС и координируемый Университетом Оксфорд-Брукс (Oxford Brookes University) в Великобритании. Его команда пять лет работала над так называемым эпистемическим искусственным интеллектом, то есть искусственным интеллектом, который лучше справляется с неопределённостью и способен делать прогнозы даже в ситуациях, отличающихся от обучающих данных.

⇑Философия на службе алгоритмов

Слово «эпистемический» происходит от эпистемологии, раздела философии, изучающего знание. Оттуда берётся способность, совершенно естественная для человека: замечать, что того, что мы знаем, в данной ситуации недостаточно. Это один из базовых элементов человеческого интеллекта.

Машина сама этого не умеет. Для искусственного интеллекта распознавание собственного незнания должно опираться на теоретические и математические основы. Иными словами, ощущение, что мы больше не уверены, нужно буквально вписать в конструкцию алгоритма.

⇑В чём проблема

Координатор проекта Фабио Куццолин (Fabio Cuzzolin) обращает внимание, что классические алгоритмы машинного обучения сосредоточены на объяснении сравнительно небольшого обучающего набора, а не всех данных, которые могут появиться в реальности. Последствия нетрудно предсказать. «Традиционные модели искусственного интеллекта с трудом делают надёжные прогнозы, когда распределения вероятностей, порождающие данные, отличаются от тех, что были во время обучения», объясняет исследователь.

Проще говоря, модель, которая хорошо знает лишь кусочек мира, может растеряться, столкнувшись с чем-то за пределами этого кусочка. Консорциум E-pi пришёл к выводу, что теория неопределённости второго порядка является наиболее перспективной основой для решения. Презентации проекта были с энтузиазмом встречены на профессиональных конференциях, а Куццолина пригласили принять участие в нескольких связанных заявках программы «Горизонт Европа». Работа команды призвана помочь построить международную экосистему эпистемического искусственного интеллекта.

⇑Испытание на дороге

Где лучше всего испытывать искусственный интеллект, которому предстоит справляться с непредсказуемым? Исследователи выбрали автономные транспортные средства. На дороге ситуация может внезапно выйти за рамки любого шаблона из-за поведения пешеходов, экстремальной погоды или необычной схемы дороги. Ошибки нынешних систем могут обойтись дорого, а в худшем случае привести к смертельным травмам.

Команда использовала набор данных ROAD, посвящённый распознаванию дорожных событий автономными транспортными средствами. Он служил как для обучения модели, так и для тестирования новых эпистемических детекторов объектов. ROAD постоянно расширяется и содержит видео из Европы, Северной Америки, Дубая и Абу-Даби, что сделало его поистине глобальным ресурсом.

⇑Не только автомобили

Более безопасные беспилотные автомобили лишь одна из целей. Та же логика может пригодиться и в других областях:

  • промышленных роботах, которым приходится справляться с непредсказуемым поведением людей,
  • хирургических роботах, стоящих перед тем же вызовом,
  • исследованиях ядерного синтеза, где нужно предсказывать поведение плазмы,
  • генеративном искусственном интеллекте, включая большие языковые модели.

⇑Плазма под контролем

Ядерный синтез особенно сложный пример. «Мы работаем над созданием нейронных операторных моделей, учитывающих неопределённость, чтобы предсказывать, как плазма синтеза будет течь внутри токамака и какие области реакторов она затронет сильнее всего», говорит Куццолин. Такие модели призваны прогнозировать течение плазмы внутри токамака, то есть реактора, и указывать, какие его области подвергнутся наибольшему воздействию. И здесь суть та же: модель должна не только выдавать результат, но и честно сообщать, насколько она в нём уверена.

⇑Лекарство от слишком уверенных чат-ботов

Другое направление касается генеративного искусственного интеллекта. «Современные передовые большие языковые модели (LLM) известны тем, что генерируют ложные утверждения», признаёт Куццолин. По его мнению, выходом могут стать модели, построенные на новой парадигме: «Эпистемические LLM могут существенно снизить чрезмерную самоуверенность этих моделей».

Планы также включают решения, связанные с теорией сознания, и системы, развивающиеся благодаря непрерывному обучению. Общий знаменатель остаётся прежним: искусственный интеллект должен не только отвечать, но и знать, когда его ответ опирается на шаткие основания.

⇑Коротко

Проект E-pi, общая стоимость которого составила около 3 миллионов евро, способствовал разработке более безопасных автономных транспортных средств и роботов, а также генеративного искусственного интеллекта, который не галлюцинирует. Он также создал динамичную сеть специалистов по машинному обучению. Его авторы утверждают, что эпистемический искусственный интеллект способен изменить мир и нашу повседневную жизнь. И всё начинается с очень человеческого умения: признать, что ты чего-то не знаешь.

⇑Пять вопросов: знаешь ли ты, когда не знаешь? (тест)

5 вопросов · одна минута

1. На экзамене тебе попадается вопрос, на который ты совершенно не знаешь, как отвечать. Что ты делаешь?

2. Кто-то спрашивает у тебя дорогу в городе, который ты плохо знаешь. Как ты реагируешь?

3. Твой план на день рушится из-за неожиданной перемены. Что дальше?

4. Чат-бот выдаёт тебе готовый ответ на задание. Что ты с ним делаешь?

5. В дискуссии кто-то показывает тебе, что ты можешь ошибаться. Как ты реагируешь?


publié: 2026-11-14
Commentaires
StudentNews Group Websites for students and future students — in Poland since 2007, across Europe since 2014. Over 50 websites and millions of users a year (Google Analytics). Studies in Europe Universities in Europe Bachelor’s Master’s Doctorate MBA Study guide Work abroad Travel For partners Advertising and cooperation Reach (online report) Contact advertising@studentnews.eu © 2003–2026 Grupa StudentNews.pl sp. z o.o., Modlnica, Poland
Privacy Policy