Постепенное лишение власти: почему ИИ подрывает контроль человека над ключевыми системами

Феномен «постепенного лишения власти» и угроза контролю человека над ИИ

В научном мире разгорается тревожная дискуссия. Группа исследователей из престижного Карлова университета в Праге и Telic Research описали феномен «постепенного лишения власти». Процесса, при котором даже небольшие улучшения в возможностях ИИ могут существенно подорвать влияние человека на ключевые системы: экономику, культуру и государственное управление.

Как ИИ ослабляет механизмы контроля человека над ключевыми системами

Особую тревогу вызывает тот факт, что системы ИИ, заменяя человеческий труд и когнитивные способности, ослабляют как прямые механизмы контроля — выборы и потребительские решения, так и неявные рычаги влияния в социальных системах. «Когда эти системы меньше зависят от человеческого вклада, люди теряют все способы влияния на них», — предупреждают исследователи.

https://mltimes.ai/uchenye-preduprezhdayut-o-postepennom-lishenii-vlasti-so-storony-ii/