Мысли вслух и процесс принятия решений

Внутренний монолог — обычная практика для большинства людей. Именно так мы понимаем ситуацию и принимаем решения. Своя внутренняя логика есть и у роботов, которые думают и рассуждают с помощью алгоритмов искусственного интеллекта. Чтобы изучить монолог в «голове» машины и то, как этот процесс влияет на ее действия, исследователи Университета Палермо (Италия) создали робота по имени Пеппер (Pepper), которая умеет разговаривать сама с собой. В ходе эксперимента, Пеппер поручили накрыть обеденный стол по правилам этикета, при этом она должна была вслух анализировать последовательность действий.

Таким образом, ученые выяснили, что с помощью внутреннего монолога Пеппер довольно успешно решает различные задачи. Так в ходе эксперимента, ассистент попросил Пеппер положить салфетку не по правилам этикета. Система начала задавать себе серию вопросов и в итоге пришла к выводу, что человек может быть сбит с толку. И хотя, Пеппер выполнила «неверную» команду, пользователь получил обратную связь от ИИ, что потенциально могло бы помочь в принятии более обоснованных решений. «Эм, эта ситуация меня расстраивает. Я бы никогда не нарушила правила, но я не могу его расстроить, поэтому делаю то, что он просит», — сказала себе Пеппер, кладя салфетку на «неправильное» место.

Понять — значит доверять

Хотя подобные монологи обогащают взаимодействие человека с роботом, некоторые ученые полагают, что такой подход будет не особенно эффективным, поскольку робот тратит больше времени на выполнение задач, когда разговаривает сам с собой. Внутренняя речь робота также ограничена знаниями, которые в него вложили разработчики. Тем не менее, сами авторы научной работы говорят о том, что их исследование открывает огромные перспективы в области обучения роботов и взаимодействия между машинами и людьми. «Внутренняя речь может быть полезна во всех случаях, когда мы доверяем компьютеру или роботу оценку ситуации», — подводит итог Антонио Челла (Antonio Chella).

«Проблема интерпретации моделей искусственного интеллекта до сих пор стоит довольно остро. Пока ИИ представляет собой так называемый «черный ящик», который полагаясь на свою логику принимает решения. А людям непонятно, почему ИИ принял и исполнил то или иное решение. Но иногда потребителю важно понимать, почему модель сработала так, а не иначе. В некоторых случаях от этого зависят целые бизнес-процессы. В банках, например, уже несколько лет SAS разрабатывает и внедряет инструменты, помогающие интерпретировать модели искусственного интеллекта. Роботы или другие бытовые устройства — это по сути своей форм-фактор для ИИ. Если они будут озвучивать свою логику, сами себя интерпретировать, объясняя свои действия, то их решения станут понятнее пользователю. Такие роботы и устройства вызывают больше доверия. Что касается медленной работы, то я уверен, что это довольно быстро исправят», — считает Александр Тихонов, генеральный директор SAS Россия/СНГ.