Ir gāzes pedālis, bet nav bremžu: mākslīgā intelekta izstrādātāji brīdina par bīstamu scenāriju cilvēcei 0
Tehnoloģiju uzņēmums “Anthropic” brīdinājis par nekontrolētas mākslīgā intelekta pašpilnveidošanās draudiem, ziņo “Dialog”.
Viens no vadošajiem mākslīgā intelekta nozares uzņēmumiem – “Anthropic”, kas izstrādā “Claude” valodu modeļus, brīdinājis par riskiem, ko rada tādu mākslīgā intelekta sistēmu parādīšanās, kuras spētu patstāvīgi izveidot arvien attīstītākas sevis versijas. Uzņēmuma ieskatā šāds scenārijs potenciāli varētu apdraudēt cilvēci.
Uzņēmuma ziņojumā mūsdienu mākslīgā intelekta industrija salīdzināta ar automašīnu, kurai ir jaudīgs gāzes pedālis, taču nav pilnvērtīgas bremžu sistēmas. Ziņojuma autori norāda, ka lielākie tehnoloģiju uzņēmumi turpina palielināt skaitļošanas jaudu un pilnveidot savus modeļus, tomēr pasaulē joprojām nepastāv efektīvi starptautiski mehānismi, kas nepieciešamības gadījumā ļautu šo procesu palēnināt.
Kā viens no būtiskākajiem draudiem tiek minēts tā sauktais rekursīvās pašpilnveidošanās scenārijs. Tas nozīmē situāciju, kurā mākslīgais intelekts iegūst spēju patstāvīgi projektēt, apmācīt un ieviest jaunas, vēl attīstītākas mākslīgā intelekta paaudzes bez tiešas cilvēku iesaistes.
Būtībā runa ir par scenāriju, kurā mākslīgais intelekts varētu izkļūt ārpus cilvēku kontroles.
Eksperti arī uzsver, ka jauna mākslīgā intelekta modeļa apmācību ir daudz vieglāk noslēpt nekā, piemēram, raķešu šahtas būvniecību. Tādēļ potenciālo risku mazināšanai uzņēmums aicina veidot globālu sadarbības sistēmu starp valstīm un vadošajiem tehnoloģiju uzņēmumiem. Šāda sistēma ļautu koordinēt iespējamu mākslīgā intelekta attīstības tempa samazināšanu un uzraudzīt, vai iesaistītās puses ievēro savstarpēji noslēgtās vienošanās.
