Медведев перечислил главные риски нерегулируемого развития технологий ИИ

МОСКВА, 11 мар - РИА Новости. Зампред Совбеза РФ Дмитрий Медведев назвал главные риски нерегулируемого развития технологий искусственного интеллекта, упомянув рост безработицы, хакерские атаки на критически важные объекты и потерю контроля человека над нейросетями.

Медведев в статье для журнала "Эксперт" отмечает, что искусственный интеллект является одной из пяти технологий, которые изменят будущее человечества. В то же время, у развития ИИ есть и оборотная сторона, которая несет существенные риски.

"Широкое использование ИИ ставит под угрозу рабочие места миллионов людей и, как следствие, создает предпосылки для экспоненциального роста безработицы и нарушения международных цепочек разделения труда", - пишет Медведев в статье.

Еще одной проблемой зампред Совбеза РФ видит уязвимость критически важной инфраструктуры перед хакерскими атаками.

"Сейчас уже просматривается перспектива передачи ИИ управления большими производственными процессами, в ходе которых применяются критические технологии, а также верхнеуровневыми институтами - холдинговыми компаниями и даже целыми отраслями экономики. И при определенных условиях это чревато глобальными рисками, в частности, хакерских атак на критическую инфраструктуру", - уточняет он.

В то же время, самая большая опасность, по мнению Медведева, связана с возможной утратой контроля над технологиями ИИ. Зампред Совбеза отмечает, что люди уже не в состоянии "в силу естественной ограниченности человеческого разума понять, как ИИ пришел к тому или иному выводу". В качестве примера он моделирует ситуацию, когда из-под контроля вышли нейросети, которые используются в управлении электростанциями, включая атомные. В случае сбоя существуют риски, что человек просто не разберется в его причине, считает он.

"Вот тут-то для человечества и начинается предчувствие Апокалипсиса. Отсюда один шаг к модели "злого ИИ", которая, как и все иные, может материализоваться. То есть к ситуации, когда сбой важной системы происходит по прямому умыслу самого ИИ. Такой сценарий сегодня допускают вполне реальные политики и представители крупного бизнеса", - добавляет Медведев в статье.