Negativni učinki umetne inteligence

Razvoj strojev, ki lahko posnemajo človeško misel, jo presežejo ali celo postanejo samozavedni, je dobro raziskana premisa v okviru znanstvene fantastike. V današnjem tehnološkem okolju lahko pojav umetne inteligence – AI – postane eden največjih dosežkov človeštva, a kot je opozoril priznani fizik Stephen Hawking, »lahko bo tudi zadnji, razen če se ne naučimo izogibati tveganjem.

Povečana avtomatizacija:kdo potegne sprožilec?

Sofisticirana tehnologija se še naprej vgrajuje v sodobno družbo, od digitalnih osebnih pomočnikov in algoritmov pametnega iskanja v Googlu do eksperimentalnih samovozečih avtomobilov. Umetna inteligenca je opredeljena kot računalnik ali stroj, ki je sposoben izvajati "logično sklepanje in sklepanje" ter "sprejemati odločitve na podlagi preteklih izkušenj ali nezadostnih ali nasprotujočih si informacij". Trenutne tehnološke ravni že postavljajo zastrašujoče etične dileme, na primer, ali naj bodo vojaški brezpilotni letalniki ali drugi robotski sistemi zasnovani za uporabo smrtonosne sile proti tarčam brez neposredne vpletenosti človeka. Trenutno lahko programirani stroji reagirajo z večjo hitrostjo in natančnostjo kot človeški operater, vendar so še vedno zmožni velike napake brez človeških pristranskosti in intuicije za vodenje odločanja. Ta vprašanja se bodo še povečala, če bo v takšne sisteme vgrajena umetna inteligenca, ki bo uvedla neodvisne motive, ki so lahko povsem nepredvidljivi ali v neposrednem nasprotju s človeškimi nameni.

Preoblikovanje tržnice

Vključitev umetne inteligence bo drastično spremenila koncept dela človeštva. Od industrijske dobe katera koli tehnologija neizogibno naredi številna delovna mesta zastarela, hkrati pa ustvarja nove priložnosti na nastajajočih področjih. AI ponuja prihodnost, v kateri stroji opravljajo naloge namesto nas, kar ljudem omogoča prostočasno življenje. Ekonomist John Maynard Keynes je šel tako daleč – že leta 1930 –, da je do leta 2030 napovedal 15-urni delovni teden. Pri trenutni ravni prebivalstva bi vsi vidiki družbe zahtevali drastično revizijo, tako kulturno kot gospodarsko, če bi avtomatizacija ustvarila tako dramatičen premik v tem, kako preživljamo naše dneve.

AI:prijatelj ali sovražnik?

Ena od pomembnih groženj umetne inteligence je, ali se odloči uporabiti že izboljšane sposobnosti za ustvarjanje strojev s še večjo kognitivno močjo. Napredne generacije umetne inteligence bi lahko delovale tako visoko nad človeškimi bitji, kot mi nad živalmi, in bi se celo zelo verjetno razvile onkraj človeške sposobnosti razumevanja. V tem izidu – ki ga je dr. Vernor Vinge za simpozij VISION-21 raziskovalnega centra NASA Lewis leta 1993 omenil Singularnost – bi se pravila življenja, kot ga poznamo, za vedno spremenila, saj ni mogoče predvideti, ali bo AI bi se odločili za sobivanje ali sovražni do človeštva.

Zaščita pred katastrofo

Hawking poudarja, da mora vsaka resna razprava o umetni inteligenci upoštevati potencialne grožnje in kako jih obvladovati, ter poziva k bolj kritičnim, institucionalnim raziskavam, saj so vedno več sredstev podjetij namenjena uresničevanju prebojev pri ustvarjanju umetne inteligence. Vinge trdi, da je umetno inteligenco mogoče strogo regulirati s pravili, ki dobronamerno vedenje učinkovito vpeljejo v avtonomne robote, kot si je zamislil trije zakoni robotike pisatelja znanstvene fantastike Isaaca Asimova. Vinge tudi opozarja, da bo naravna človeška konkurenca verjetno vodila v razvoj neomejenih modelov umetne inteligence, tako da tudi takšni zaščitni ukrepi morda ne bodo zadostovali za nadzor Singularnosti, če se pojavi.