Искусственный интеллект имеет опасные алгоритмы: ученые ищут методику их распознавания

Искусственный интеллект — это фантастическое открытие, сделанное наукой, революционный шаг в будущее, технологии, которые из современного мира шагнут далеко в

Искусственный интеллект — это фантастическое открытие, сделанное наукой, революционный шаг в будущее, технологии, которые из современного мира шагнут далеко в будущее. Но он может быть не только полезным, но и опасным. Машины могут полностью заменить людей, создав высокий уровень безработицы, подтолкнув человечество к ужасным условиям выживания.

Ученые считают, что все угрозы следует рассматривать, как реальные. И одна из них связана с алгоритмами, они тоже способны создавать угрозы, которые сегодня считаются маловероятными и едва понятными. Математик Кэти Онил изучает особенность таких алгоритмов: каким образом они могут навредить людям.

Их опасность может заключаться в алгоритмическом смещении и опасных циклах обратной связи, и они могут распространяться на все сферы повседневной жизни, включая экономику, социальное взаимодействие, систему уголовного правосудия. Хотя использование математики и алгоритмов в процессе принятия решений не является чем-то новым, последние достижения усиливают их эффекты. И не только хорошие, но и плохие.

Оцифровка каждого аспекта нашей жизни в итоге приведет к тому, что все больше моделей из головы человека переносятся в компьютеры. Благодаря широкополосному интернету, облачным вычислениям, мобильным устройствам, и другим технологиям, человек способен собирать все больше и больше данных обо всем на свете.

Создавать расширенный доступ к таким данным позволяют алгоритмы искусственного интеллекта. Они автоматизируют постоянно растущее число поступающих задач. Ранее нейронные сети были ограничены лабораторными исследованиями, но сегодня они появились во многих сферах жизни. Есть только два аспекта непрозрачности для искусственного интеллекта. Они связаны с техническими и корпоративными особенностями.

Техническую непрозрачность еще также называют проблемой «черного ящика» искусственного интеллекта. Ученые задумались: как понять, что алгоритм искусственного интеллекта принимает верное решение? Это вопрос все более важен при оценках обработок заявок на кредит, расчетах статистики, прогнозах рецидивов.

Вторая проблема заключается в коропоративных особенностях. Определенные структуры хотят иметь одну структуру без локальной сети. Но это противоречит системам безопасности и прозрачности обработки данных.

Последнее