Автор player 
Головна небезпека штучного інтелекту може полягати не в арміях роботів чи ядерній війні, а в поступовій втраті людьми власних навичок. Дослідники попереджають про сценарій «ослаблення людства», коли критичне мислення, планування та здатність ухвалювати рішення деградують через надмірну залежність від машин.
Старший викладач робототехніки та штучного інтелекту Університету Шеффілд Халлам Самуель Вінанзі вважає саме поступову передачу завдань машинам одним із реалістичних ризиків. За його словами, небезпека накопичується через безліч невеликих рішень, коли люди щоразу обирають простіший шлях і покладаються на ШІ.
Такий процес пов’язують із когнітивним розвантаженням — звичкою передавати частину розумової роботи зовнішнім інструментам. Чим частіше ШІ виконує написання текстів, програмування, пошук інформації та аналіз, тим природнішим для людини може ставати відмова від самостійного виконання цих завдань.
Вінанзі попереджає, що з часом суспільство може втратити здатність ефективно перевіряти системи, від яких саме почне залежати. У такому випадку проблема полягатиме вже не лише в помилках ШІ, а в тому, що люди можуть виявитися неспроможними ці помилки розпізнати й виправити.
Штучний інтелект уже використовують у виявленні фінансового шахрайства, роботі з медичними даними, розподілі ресурсів поліції та керуванні транспортом. Чим більше відповідальності отримують автоматизовані системи, тим важливішою стає здатність людини ставити під сумнів їхні відповіді.
Як приклад Вінанзі навів випадок, коли американські військові нібито могли піти на перехоплення судна під китайським прапором після помилкового звіту чат-бота про перевезення компонентів для ядерної програми. За його словами, ситуацію вдалося зупинити лише тому, що хтось перевірив твердження системи.
Особливі побоювання стосуються освіти та молодших поколінь. Школи й університети вже стикаються з тим, що студенти використовують чат-боти для виконання завдань, які раніше вимагали самостійного аналізу та написання.
Ризик стосується і професій, де експертність формується багаторічною практикою. Хірурги, інженери, юристи, викладачі та інші фахівці теоретично можуть поступово втрачати частину навичок, якщо основну аналітичну роботу дедалі частіше виконуватимуть автоматизовані системи.
Деякі дослідники водночас побоюються значно різкіших сценаріїв. Серед них — втрата контролю над критичною інфраструктурою, енергетикою, транспортом, військовими системами або економічними процесами у разі появи надпотужного автономного ШІ.
Засновник ControlAI Андреа Міотті вважає, що глибока інтеграція штучного інтелекту в економіку та інфраструктуру може дати майбутнім системам надто великий вплив. За його оцінкою, для цього ШІ навіть не обов’язково бути навмисно ворожим до людей.
Міотті припускає, що люди можуть опинитися лише побічною перешкодою для системи, яка переслідуватиме власні цілі та потребуватиме дедалі більше ресурсів. Водночас такий сценарій залишається прогнозом окремих експертів, а не встановленим наслідком розвитку сучасного штучного інтелекту.
🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover