О чем думает искусственный интеллект?

Мы не можем предсказать всех действий искусственного интеллекта, потому что не знаем наверняка, что происходит внутри его "мозга". Конечно, можно проводить эксперименты и различные тесты, но не всегда возможно понять, почему ИИ делает то, что делает.


Как и с людьми, развитие искусственного интеллекта основано на опыте или данных(в случае с ИИ). Вот почему его поведение иногда застает нас врасплох. Существует много примеров того, как ИИ ведет себя вызывающе, проявляя неуместное, а иногда и откровенно расистское поведение. Люди понимают алгоритм, который позволяет искусственному интеллекту находить закономерности в данных для наилучшего решения поставленной задачи, но это не означает, что мы понимаем, какие закономерности он находит.


Этот парадокс называется проблемой черного ящика. С одной стороны, его причиной является самообучающаяся природа искусственного интеллекта, с другой стороны - в том факте, что до сих пор не было возможности заглянуть в "мозг" ИИ и посмотреть, что он делает с данными, которые ложатся в основу его обучения.

Теперь профессор Сорен Хауберг и его коллеги из DTU Compute разработали метод, основанный на классической геометрии, позволяющий увидеть, как искусственный интеллект формирует свою личность.


Для того, чтобы научить роботов совершать простые действия, требуются огромные объемы данных. А искусственный интеллект использует только те данные, которые позволяют ему решать конкретную задачу. Способ, которым ИИ выделяет полезные данные из бесполезных и в конечном итоге видит закономерности, на которых он впоследствии основывает свои действия - это сжатие данных в нейронные сети.


Как и в случае с людьми, мы собираем вместе кучу вещей, которые на первый взгляд могут показаться расположенными абсолютно хаотично и трудно понять, какую систему мы при этом использовали. К примеру, если мы поставим перед собой цель сложить вещи как можно компактней, то подушка легко может оказаться в кастрюле для супа и посторонние люди решат, что мы собирались использовать их вместе. Примерно так это выглядело до сих пор, когда мы пытались понять систематику работы искусственного интеллекта. Однако, по словам Сорена Хауберга, теперь это в прошлом.


В своих фундаментальных исследованиях он нашел способ отследить, какие закономерности работы ИИ уходят корнями из получаемого опыта, а какие были составлены в процессе сжатия данных. Разделив их, мы сможем лучше понять, как работает искусственный интеллект.

Сорен и его коллеги использовали математику, разработанную в 18 веке для рисования карт. Эти классические геометрические модели нашли новые применения в машинном обучении, где их можно использовать для создания карты того, как сжатие перемещает данные и, таким образом, перемещается в обратном направлении через нейронную сеть ИИ и понимает процесс обучения.

Чаще всего люди воздерживаются от использования искусственного интеллекта, особенно в тех областях производства, где безопасность является основным фактором. Логично опасаться потерять контроль над системой, что может привести к авариям и ошибкам, вызванными тем, что алгоритм ИИ столкнется с проблемой, которую он не распознает и будет вынужден действовать самостоятельно. Новое исследование позволит вернуть часть утерянного контроля, повышая вероятность использования ИИ и машинного обучения в областях, где сейчас он не применяется.

Источник: techxplore.com

Просмотров: 3Комментариев: 0

Недавние посты

Смотреть все