Штучний інтелект, який знає, чого він не знає + test

• Коли навчальних даних стає замало
• Філософія на службі алгоритмів
• У чому проблема
• Випробування на дорозі
• Не лише автомобілі
• Плазма під контролем
• Ліки від надто впевнених чат-ботів
• Коротко
• П’ять запитань: чи знаєш ти, коли не знаєш? (тест)

⇑Коли навчальних даних стає замало

Штучний інтелект сьогодні сягає майже всюди. Він рухає економіку й змінює наші домівки, школи та робочі місця. Проте в нього є слабке місце, про яке говорять рідше, ніж про його успіхи. Модель навчається на конкретному наборі даних, а потім має працювати у світі, який не завжди схожий на те, що вона бачила під час навчання. Саме тоді й починаються проблеми.

Цією проблемою зайнявся проєкт E-pi, що фінансується ЄС і координується Оксфордським університетом Брукса (Oxford Brookes University) у Сполученому Королівстві. Його команда п’ять років працювала над так званим епістемічним штучним інтелектом, тобто штучним інтелектом, який краще справляється з невизначеністю та здатний робити прогнози навіть у ситуаціях, що відрізняються від навчальних даних.

⇑Філософія на службі алгоритмів

Слово «епістемічний» походить від епістемології, галузі філософії, що вивчає знання. Звідти береться здатність, цілком природна для людини: помічати, що того, що ми знаємо, у певній ситуації замало. Це один із базових елементів людського інтелекту.

Машина сама цього не вміє. Для штучного інтелекту розпізнавання власного незнання має ґрунтуватися на теоретичних і математичних засадах. Іншими словами, відчуття, що ми вже не впевнені, потрібно буквально вписати в конструкцію алгоритму.

⇑У чому проблема

Координатор проєкту Фабіо Куццолін (Fabio Cuzzolin) звертає увагу, що класичні алгоритми машинного навчання зосереджені на поясненні відносно невеликого навчального набору, а не всіх даних, які можуть з’явитися в реальності. Наслідок легко передбачити. «Традиційні моделі штучного інтелекту насилу роблять надійні прогнози, коли розподіли ймовірностей, що породжують дані, відрізняються від тих, що були під час навчання», пояснює дослідник.

Простіше кажучи, модель, яка добре знає лише шматок світу, може розгубитися, зіткнувшись із чимось поза цим шматком. Консорціум E-pi дійшов висновку, що теорія невизначеності другого порядку є найперспективнішою основою для розв’язання. Презентації проєкту зустріли з ентузіазмом на фахових конференціях, а Куццоліна запросили долучитися до кількох пов’язаних заявок програми «Горизонт Європа». Робота команди має допомогти побудувати міжнародну екосистему епістемічного штучного інтелекту.

⇑Випробування на дорозі

Де найкраще випробувати штучний інтелект, який має справлятися з непередбачуваним? Дослідники обрали автономні транспортні засоби. На дорозі ситуація може раптово вийти за межі будь-якого шаблону через поведінку пішоходів, екстремальну погоду чи незвичну схему дороги. Помилки сучасних систем можуть коштувати дорого, а в гіршому разі призвести до смертельних травм.

Команда використала набір даних ROAD, присвячений розпізнаванню дорожніх подій автономними транспортними засобами. Він слугував як для навчання моделі, так і для тестування нових епістемічних детекторів об’єктів. ROAD постійно розширюють, і він містить відео з Європи, Північної Америки, Дубая та Абу-Дабі, що зробило його справді глобальним ресурсом.

⇑Не лише автомобілі

Безпечніші безпілотні автомобілі лише одна з цілей. Та сама логіка може бути корисною й в інших сферах:

• промислових роботів, які мають справлятися з непередбачуваною поведінкою людей,
• хірургічних роботів, що стоять перед тим самим викликом,
• досліджень ядерного синтезу, де потрібно передбачати поведінку плазми,
• генеративного штучного інтелекту, зокрема великих мовних моделей.

⇑Плазма під контролем

Ядерний синтез є особливо вимогливим прикладом. «Ми працюємо над розробкою нейронних операторних моделей, що враховують невизначеність, щоб передбачати, як плазма синтезу тектиме всередині токамака і які ділянки реакторів вона вражатиме найбільше», каже Куццолін. Такі моделі мають прогнозувати рух плазми всередині токамака, тобто реактора, і вказувати, які його ділянки зазнають найбільшого впливу. І тут суть та сама: модель має не лише видавати результат, а й чесно повідомляти, наскільки вона в ньому впевнена.

⇑Ліки від надто впевнених чат-ботів

Інший напрям стосується генеративного штучного інтелекту. «Сучасні найпередовіші великі мовні моделі (LLM) відомі тим, що генерують хибні твердження», визнає Куццолін. На його думку, виходом можуть бути моделі, побудовані на новій парадигмі: «Епістемічні LLM можуть суттєво зменшити надмірну самовпевненість цих моделей».

Плани також охоплюють рішення, пов’язані з теорією розуму, та системи, що розвиваються завдяки безперервному навчанню. Спільний знаменник залишається тим самим: штучний інтелект має не лише відповідати, а й знати, коли його відповідь спирається на хиткі підстави.

⇑Коротко

Проєкт E-pi, загальна вартість якого становила близько 3 мільйонів євро, сприяв розвитку безпечніших автономних транспортних засобів і роботів, а також генеративного штучного інтелекту, що не галюцинує. Він також створив динамічну мережу фахівців із машинного навчання. Його автори стверджують, що епістемічний штучний інтелект має потенціал змінити світ і наше повсякденне життя. І все починається з дуже людської навички: визнати, що ти чогось не знаєш.

⇑П’ять запитань: чи знаєш ти, коли не знаєш? (тест)