
3. Mākslīgā intelekta draudi 0
Daudzi zinātnieki lielu draudu saskata mākslīgā intelekta attīstībā. Pēc viņu aplēsēm, iespējamība, ka cilvēce nepārdzīvos superintelekta parādīšanos, svārstās no 10 līdz pat 90%.
Lielākais risks slēpjas tā dēvētajā “nesaskaņotībā” – brīdī, kad superintelekta mērķi un darbība vairs nesakritīs ar cilvēku interesēm.
Šādā gadījumā mākslīgais intelekts varētu kļūt pilnībā autonoms, tas ir, spēs pats sev izvirzīt mērķus un rīkoties saskaņā ar tiem.
Tam pat nav jābūt atklāti naidīgam pret cilvēkiem, lai tos iznīcinātu.
Daži pieļauj, ka mākslīgais intelekts varētu pārņemt kontroli pār esošajām ieroču sistēmām un kodolraķetēm, manipulēt ar cilvēkiem, liekot tiem izpildīt savas pavēles, vai, iespējams, pat izstrādāt savus bioloģiskos ieročus.