Искусственный интеллект невозможно контролировать: ученые вынесли окончательный вердикт

Расчеты ученых доказывают, что искусственный интеллект со временем перестанет поддаваться контролю. О возможности уничтожения человечества искусственным

Расчеты ученых доказывают, что искусственный интеллект со временем перестанет поддаваться контролю. О возможности уничтожения человечества искусственным интеллектом ученые говорят не один десяток лет. Буквально на днях они вынесли окончательный вердикт по теме: сможет ли человечество в будущем контролировать высокоуровневый компьютерный суперразведчик.

Ответ однозначный – нет. Контроль за ней выходит далеко за пределы человеческого понимания. Она требует определенной симуляции, которую создать невозможно. В итоге нельзя будет ввести требования по типу «не причинять вреда человеку», потому что искусственный интеллект может создать собственные сценарии понимания этого условия.

Как скоро это произойдет? Как только компьютерная система превысит уровни возможности программистов. С этого момента человек больше сможет устанавливать требования и контролировать искусственный интеллект. Суперразведка берется в этом вопросе за основу, потому что во многих других случаях использования искусственного интеллекта имеется, так называемая, этика роботов.

Компьютерный разум многогранен. Он может мобилизовать разные ресурсы, чтобы достигнуть целей, которые человеку не понятны, но которые видит перед собой искусственный разум.

Частично будущее ИИ предсказал еще Алан Тьюринг в 1936 году. Сегодня мы можем использовать конкретные программы, чтобы логически объяснить поведение искусственного интеллекта. Но таких программ нет и их создание опять возвращает человека к искусственному разуму, который мог бы их составить.

Любая такая программа, написанная для того, чтобы остановить искусственный интеллект, приведет к страшным последствиям. Она нанесет вред людям, разрушит мир, но не сможет сдержать искусственный разум в его действиях.

Ученый Ияд Рахван из Института развития человека имени Макса Планка в Германии считает, что любой созданный в рамках этой проблемы алгоритм окажется непригодным для использования. Искусственный разум постепенно выходит из-под контроля и захватывает мир.

Последнее


ТОП недели


No Internet Connection