Inteligența artificială auto-îmbunătățită (AI) în viitor poate înrobi sau ucide oamenii dacă dorește. Acest lucru a fost spus de omul de știință Amnon Eden, care consideră că riscurile generate de dezvoltarea unei conștiințe inteligente și extrem de inteligente sunt foarte mari și „dacă nu te ocupi de problemele controlului AI deja în stadiul actual al dezvoltare, atunci mâine s-ar putea să nu vină pur și simplu. Potrivit ediției englezești Express, umanitatea, potrivit lui Amnon Eden, se află astăzi la „punctul fără întoarcere” pentru punerea în aplicare a complotului faimosului film epic „Terminatorul”.
Este demn de remarcat faptul că Dr. Amnon Eden este un lider de proiect al cărui obiectiv principal este de a analiza potențialele efecte devastatoare ale IA. Fără o înțelegere corectă a consecințelor creării inteligenței artificiale, dezvoltarea acesteia poate amenința dezastrul, crede omul de știință. În prezent, societatea noastră este slab informată cu privire la dezbaterea care se întâmplă în comunitatea științifică cu privire la analiza impactului potențial al IA. „În 2016, analiza posibilelor riscuri va trebui să fie mult mai răspândită în gândirea corporațiilor și a guvernelor, a politicienilor și a celor care sunt responsabili pentru luarea deciziilor”, spune Eden.
Omul de știință este sigur că ficțiunea științifică, care descrie distrugerea umanității de către roboți, poate deveni în curând problema noastră comună, deoarece procesul de creare a AI a scăpat de sub control. De exemplu, Elon Musk, cu sprijinul antreprenorului Sam Altman, a decis să creeze o nouă organizație nonprofit de 1 miliard de dolari care să dezvolte AI open source care ar trebui să depășească mintea umană. În același timp, miliardarul american Elon Musk însuși plasează inteligența artificială printre „cele mai mari amenințări la adresa existenței noastre”. Steve Wozniak, care a cofondat Apple, a declarat în martie anul trecut că „viitorul pare descurajator și foarte periculos pentru oameni … în cele din urmă va veni ziua când computerele vor gândi mai repede decât noi și vor scăpa de oamenii încet pentru a astfel încât companiile să poată lucra mai eficient."
Este demn de remarcat faptul că mulți oameni de știință văd amenințarea din partea AI. Zeci de oameni de știință, investitori și antreprenori cunoscuți, ale căror activități sunt, într-un fel sau altul, legate de dezvoltarea inteligenței artificiale, au semnat o scrisoare deschisă prin care solicită o atenție sporită asupra problemei siguranței și utilității sociale a muncii în domeniul AI. Astrofizicianul Stephen Hawking și fondatorul Tesla și SpaceX Elon Musk se numără printre semnatarii acestui document. Scrisoarea, împreună cu un document însoțitor, care a fost elaborat de Institutul Viitorului Vieții (FLI), a fost scrisă pe fondul îngrijorărilor tot mai mari cu privire la impactul inteligenței artificiale asupra pieței muncii și chiar la supraviețuirea pe termen lung a întregii umanități într-un mediu în care capacitățile roboților și mașinilor vor crește aproape necontrolat.
Oamenii de știință înțeleg faptul că potențialul IA astăzi este foarte mare, deci este necesar să investigăm pe deplin posibilitățile de utilizare optimă a acesteia pentru noi, pentru a evita capcanele însoțitoare, notează scrisoarea FLI. Este imperativ ca sistemele de artificii artificiale să facă exact ceea ce vrem noi să facă. Este demn de remarcat faptul că Institutul Viitorul Vieții a fost fondat abia anul trecut de o serie de entuziaști, printre care creatorul Skype, Jaan Tallinn, pentru a „minimiza riscurile cu care se confruntă umanitatea” și a stimula cercetarea cu o „viziune optimistă”. A viitorului . În primul rând, vorbim aici despre riscurile cauzate de dezvoltarea AI și a roboticii. Comitetul consultativ FLI include Musk și Hawking, alături de aclamatul actor Morgan Freeman și alte persoane celebre. Potrivit lui Elon Musk, dezvoltarea necontrolată a inteligenței artificiale este potențial mai periculoasă decât armele nucleare.
Celebrul astrofizician britanic Stephen Hawking la sfârșitul anului 2015 a încercat să explice respingerea tehnologiilor AI. În opinia sa, în timp, mașinile superinteligente vor privi oamenii ca consumabile sau furnici care pur și simplu interferează cu soluționarea sarcinilor lor. Vorbind cu utilizatorii portalului Reddit, Stephen Hawking a remarcat că nu crede că astfel de mașini superinteligente vor fi „creaturi malefice” care vor să distrugă întreaga umanitate din cauza superiorității lor intelectuale. Cel mai probabil, va fi posibil să vorbim despre faptul că pur și simplu nu vor observa umanitatea.
„Mass-media mi-a denaturat în mod constant cuvintele în ultima vreme. Principalul risc în dezvoltarea AI nu este răutatea mașinilor, ci competența acestora. Inteligența artificială superinteligentă va face o treabă excelentă, dar dacă ea și obiectivele noastre nu coincid, umanitatea va avea probleme foarte grave”, explică celebrul om de știință. Ca exemplu, Hawking a citat o ipotetică situație în care un AI super-puternic este responsabil pentru funcționarea sau construirea unui nou baraj hidroelectric. Pentru o astfel de mașină, prioritatea va fi câtă energie va genera sistemul încredințat, iar soarta oamenilor nu va conta. „Suntem puțini dintre noi care călcăm furnicari și călcăm pe furnici din furie, dar să ne imaginăm o situație - controlați o centrală hidroelectrică puternică care generează electricitate. Dacă trebuie să ridicați nivelul apei și, ca urmare a acțiunilor dvs., un furnicar va fi inundat, atunci este puțin probabil ca problemele înecării insectelor să vă deranjeze. Să nu punem oamenii în locul furnicilor”, a spus omul de știință.
A doua problemă potențială pentru dezvoltarea în continuare a inteligenței artificiale, potrivit lui Hawking, poate fi „tirania proprietarilor de mașini” - creșterea rapidă a decalajului la nivelul veniturilor dintre oamenii bogați care vor putea monopoliza producția de mașini inteligente și restul populației lumii. Stephen Hawking propune să rezolve aceste posibile probleme în felul următor - să încetinească procesul de dezvoltare al IA și să treacă la dezvoltarea inteligenței artificiale nu „universale”, ci foarte specializate, care poate rezolva doar o gamă foarte limitată de probleme.
Pe lângă Hawking și Musk, scrisoarea a fost semnată de laureatul Nobel și profesor de fizică MIT Frank Wilczek, directorul executiv al Institutului de Cercetare a Inteligenței Mașinilor (MIRI) Luc Mühlhauser, precum și de mulți specialiști de la mari companii IT: Google, Microsoft și IBM, precum și antreprenorii care au fondat companiile AI Vicarious și DeepMind. Autorii scrisorii menționează că nu urmăresc să sperie publicul, ci intenționează să evidențieze atât aspectele pozitive, cât și cele negative care sunt asociate cu crearea inteligenței artificiale. „În prezent, toată lumea este de acord că cercetarea în domeniul AI progresează constant, iar influența AI asupra societății umane moderne va crește doar”, spune scrisoarea, „oportunitățile care se deschid oamenilor sunt enorme, tot ceea ce civilizația modernă are de oferit a fost creat de inteligență. persoană. Nu suntem în măsură să prezicem ce vom putea realiza dacă inteligența umană poate fi înmulțită cu AI, dar problema de a scăpa de sărăcie și boli nu mai este infinit de dificilă”.
Numeroase evoluții în domeniul inteligenței artificiale sunt deja incluse în viața modernă, inclusiv sisteme de recunoaștere a imaginii și vorbirii, vehicule fără pilot și multe altele. Observatorii din Silicon Valley estimează că în prezent sunt implementate peste 150 de startup-uri în această zonă. În același timp, evoluțiile în acest domeniu atrag din ce în ce mai multe investiții și tot mai multe companii precum Google își dezvoltă proiectele pe baza AI. Prin urmare, autorii scrisorii cred că a sosit timpul să acordăm o atenție sporită tuturor consecințelor posibile ale exploziei observate pentru aspectele economice, sociale și juridice ale vieții umane.
Poziția conform căreia inteligența artificială poate reprezenta un pericol pentru oameni este împărtășită de Nick Bostrom, profesor la Universitatea din Oxford, cunoscut pentru munca sa pe principiul antropic. Acest specialist consideră că AI a ajuns la punctul care va fi urmat de incompatibilitatea sa cu oamenii. Nick Bostrom subliniază că, spre deosebire de ingineria genetică și schimbările climatice, pentru care guvernele alocă fonduri suficiente pentru control, „nu se face nimic pentru a controla evoluția AI”. Potrivit profesorului, în prezent se urmărește o „politică de vid juridic care trebuie completat” în ceea ce privește inteligența artificială. Chiar și tehnologiile, cum ar fi mașinile cu conducere automată, care par inofensive și utile, ridică o serie de întrebări. De exemplu, o astfel de mașină trebuie să efectueze o frânare de urgență pentru a-și salva pasagerii și cine va fi responsabil în cazul unui accident comis de un vehicul fără pilot?
Discutând despre riscurile potențiale, Nick Bostrom a remarcat că „computerul nu este capabil să determine beneficiile și daunele pentru oameni” și „nici măcar nu are nici cea mai mică idee despre moralitatea umană”. În plus, ciclurile de auto-îmbunătățire din computere pot apărea la o viteză atât de mare încât o persoană pur și simplu nu poate ține evidența și nici nu se poate face aproape nimic în acest sens, spune omul de știință. „În stadiul de dezvoltare în care computerele pot gândi de la sine, nimeni nu poate prezice cu siguranță dacă acest lucru va duce la haos sau va îmbunătăți semnificativ lumea noastră”, a spus Nick Bostrom, citând ca exemplu o posibilă soluție simplă pentru un computer - oprirea în țările cu încălzire climatică rece pentru a îmbunătăți sănătatea oamenilor și a le crește rezistența, ceea ce „poate ajunge în fruntea inteligenței artificiale”.
În plus, Bostrom ridică și problema ciobirii creierului uman pentru a ne spori biointeligența. „În multe feluri, o astfel de procedură poate fi utilă dacă toate procesele sunt controlate, dar ce se întâmplă dacă cipul implantat se poate reprograma singur? Ce consecințe poate duce acest lucru - la apariția unui supraom sau la apariția unui computer care va arăta doar ca un om? - întreabă profesorul. Modul în care computerele rezolvă problemele umane este foarte diferit de al nostru. De exemplu, în șah, creierul uman are în vedere doar un set restrâns de mișcări, alegând cea mai bună opțiune dintre ele. La rândul său, computerul ia în considerare toate mișcările posibile, alegând cea mai bună. În același timp, computerul nu se așteaptă să-și supere sau să-și surprindă adversarul în joc. Spre deosebire de o ființă umană, jucând șah, un computer poate face o mișcare vicleană și subtilă doar din întâmplare. Inteligența artificială poate calcula în cel mai bun mod - pentru a elimina eroarea din orice sistem eliminând „factorul uman” de acolo, dar, spre deosebire de un om, un robot nu este pregătit să efectueze fapte care ar salva viețile oamenilor.
Printre altele, creșterea numărului de mașini inteligente reprezintă etapa unei noi revoluții industriale. La rândul său, acest lucru înseamnă că, în viitorul apropiat, umanitatea se va confrunta cu schimbări sociale inevitabile. În timp, munca va deveni o mulțime de specialiști cu înaltă calificare, deoarece aproape toate sarcinile simple pot fi întreprinse de roboți și alte mecanisme. Oamenii de știință cred că inteligența artificială „are nevoie de un ochi și un ochi”, astfel încât planeta noastră să nu se transforme într-o planetă de desene animate „Zhelezyaka”, care era locuită de roboți.
În ceea ce privește automatizarea tot mai mare a proceselor de producție, viitorul a sosit deja. Forumul Economic Mondial (WEF) și-a prezentat raportul, potrivit căruia automatizarea va duce la faptul că până în 2020 mai mult de 5 milioane de oameni care lucrează în diverse domenii își vor pierde locul de muncă. Acesta este impactul roboților și al sistemelor robotizate asupra vieții noastre. Pentru a compila raportul, angajații WEF au folosit date despre 13,5 milioane de angajați din întreaga lume. Potrivit acestora, până în 2020, nevoia totală de peste 7 milioane de locuri de muncă va dispărea, în timp ce creșterea preconizată a ocupării forței de muncă în alte industrii se va ridica la puțin peste 2 milioane de locuri de muncă.
