+7 (3822) 60-90-23, info@innoclusters.ru                   
Facebook
г. Томск, пр. Ленина, д. 26.
Новости

Ученый рассказал о "личности" искусственного интеллекта

28/10/2019
автор Inno Clusters

Поскольку искусственный интеллект (ИИ) и глубокое обучение продолжают влиять на многие сферы человеческой деятельности, ученый Хуэй Чиа продолжает изучать возможности роботов, чтобы выяснить, может ли понимание «личности» в алгоритме заставить людей больше доверять ИИ.

Рост «глубокого обучения» вызвал большое волнение вокруг революционных возможностей интеллектуальных агентов. Но это также вызывает страх и подозрение относительно того, что именно происходит внутри каждого алгоритма. Один из способов получить некоторое представление об ИИ, основанных на кремнии, состоит в том, чтобы они раскрыли свои рамки принятия решений так, как люди могут понять - используя концепцию личности.

Некоторые из этих агентов глубокого обучения могут быть лучше поняты через их «личность» - например, являются ли они «жадными», «эгоистичными» или «расчетливыми». Сейчас мы находимся на пороге новой эры технологии искусственного интеллекта - так называемой четвертой промышленной революции, которая изменит каждую отрасль. На переднем крае - глубокое обучение , технология, ответственная за недавний скачок возможностей ИИ.

Глубокое обучение продемонстрировало значительный прогресс в достижении или превосходстве уровня человеческих возможностей в задачах, которые обычно считаются требующими интеллекта. На самом деле, ИИ уже используется для диагностики раковых заболеваний и во многих других сферах. Сила глубокого обучения заключается в его способности обрабатывать огромные объемы данных, которые используются для определения закономерностей и прогнозирования.

Тем не менее, экстраординарные способности глубокого обучения также вызывают опасения. Одно из основных критических замечаний по поводу глубокого обучения заключается в том, что технология представляет собой «черный ящик» - никто не знает и не может точно объяснить, как агенты по глубокому обучению приходят к своим решениям. Даже разработчики ИИ, которые создают этих агентов, не могут объяснить, как именно они работают.

Проблема «черного ящика» представляет особую опасность для регулирующих органов, стремящихся управлять предоставлением услуг агентами глубокого обучения общественности. При использовании более старых форм ИИ, разработанных людьми, - регуляторы могли бы оценить обоснованность этих правил в соответствии с общепринятым мнением. По сути, эти старые формы ИИ были менее интеллектуальными, поскольку агент ИИ в основном реализовывал набор правил, данных ему его разработчиком-человеком.

При глубоком изучении регуляторы не могут пересмотреть обоснование или правила, лежащие в основе алгоритмов, поскольку ни один из них на самом деле не понятен людям - нет определенного объема знаний или правил, которые люди могут понять. По сути, агенты глубокого обучения используют уже существующие данные, чтобы найти шаблоны и предсказать будущие результаты на основе этих шаблонов. Как именно они приходят к предсказанию, на самом деле неизвестно. Итак, если важные общественные решения передаются интеллектуальному агенту, нужно знать, можно ли доверять технологии.

Агенты глубокого обучения могут пониматься, как имеющие «черты личности», которые могут дать общественности и регуляторам больше понимания того, как они будут вести себя. Разработчик ИИ может контролировать «личность» агента глубокого обучения, устанавливая положительные вознаграждения и отрицательные наказания за конкретные действия.

Предыдущие исследования уже показали, что, манипулируя наградами и наказаниями, разработчики ИИ могли контролировать, демонстрирует ли их агент конкурентное поведение, кооперативное или вариации обоих. Поскольку агенты глубокого обучения берут на себя все более сложные задачи с серьезными социальными последствиями, люди должны быть уверены, что эти агенты будут вести себя предсказуемым и приемлемым образом.

Описание агентов глубокого обучения, использующих интуитивную концепцию личностных качеств, позволило бы общественности реагировать на основе знаний и понимания.

 

Источник: oane.ws