Foto: Hina, Wired

PREDSJEDNIK Francuske Emmanuel Macron nedavno je održao govor o novoj državnoj strategiji vezanoj za umjetnu inteligenciju. Francuska vlada će u sljedećih pet godina potrošiti 1,5 milijardi eura na istraživanja iz tog područja, osnivanje novih tvrtki i prikupljanje podataka koje inženjeri mogu koristiti i dijeliti.

Cilj je uhvatiti korak sa SAD-om i Kinom te potaknuti najbistrije umove iz područja umjetne inteligencije – poput Yanna LeCuna – da umjesto Palo Alta odaberu Pariz.

Odmah nakon održanog govora, Macron je za Wired dao ekskluzivni, opsežni intervju na engleskom jeziku – s glavnim urednikom Nicholasom Thompsonom razgovarao je o umjetnoj inteligenciji i razlozima zbog kojih mu je sada jako stalo do te teme.

Nicholas Thompson: Prije svega bih vam želio zahvaliti što ste mi dopustili da razgovaram s vama. Lijepo je čuti da državni vođa želi u dubinu razglabati o temi kao što je ova. Za početak bih vam postavio jedno lagano pitanje – vi i vaš tim pričali ste u fazi pripreme strategije sa stotinama ljudi; koji vas se primjer načina rada umjetne inteligencije najviše dojmio i potaknuo na to da pomislite "Ok, ovo će biti veoma važno"?

Emmanuel Macron: Vjerojatno upotreba umjetne inteligencije u zdravstvu – osobni i preventivni lijekovi i liječenja. Nekoliko puta sam se uvjerio da se pomoću bolje analize može predvidjeti koje ćete bolesti dobiti u budućnosti te ih spriječiti ili učinkovitije liječiti. Prije nekoliko godina bio sam na CES-u i nekoliko tvrtki me jako impresioniralo. Sa mnom je bilo nekoliko francuskih tvrtki, no imao sam priliku otkriti i one američke, izraelske i ostale tvrtke koje se bave tim područjem. Inovacije koje umjetna inteligencija uvodi u zdravstvo mogu u potpunosti promijeniti stvari – dolazi do novih načina liječenja, sprječavanja raznih bolesti te smanjenja potencijalnih rizika.

Drugo bitno područje primjene je vjerojatno područje mobilnosti: nekoliko izvrsnih francuskih tvrtki (kao i mnogo američkih) bavi se ovim sektorom. Autonomna me vožnja jako impresionira. Rad u ovim dvama sektorima – zdravstvu i mobilnosti – učinio mi se jako obećavajućim. Proučavajući ove tvrtke nemoguće je ne pomisliti kako dolazi do drastičnih promjena i kako se događa nešto za što ste mislili da će pripadati tek nadolazećem desetljeću. Dolazi do ogromnog ubrzanja.

Nicholas Thompson: Čini se da se ovime bavite djelomično zato što je Francuskoj u interesu da bude jaka u području umjetne inteligencije. Također, vaš govor je ukazao na to da smatrate da francuske ili europske vrijednosti mogu pomoći u razvoju umjetne inteligencije. Je li to točno i o kojim je vrijednostima riječ?

Emmanuel Macron: Mislim da će umjetna inteligencija izazvati i poremetiti razne poslovne modele te želimo biti dio toga. U suprotnom ćemo samo biti izloženi posljedicama tog razvoja izvan Francuske, bez stvaranja poslova u svojoj zemlji. Dolazi do ogromnom ubrzanja, a pobjednik, kao i uvijek, uzima sve. Stoga je moj prvi cilj što se tiče obrazovanja, izučavanja, istraživanja i pokretanja tvrtki pojednostaviti mnoge stvari, stvoriti prilagodljive sustave, prikladne oblike financiranja i propise kako bih stvorio nove tehnološke prvake u Francuskoj te privukao postojeće.

No i vi imate pravo: umjetna će inteligencija potaknuti brojna etička i politička pitanja te dovesti u pitanje našu demokraciju i kolektivne preferencije. Primjerice, u zdravstvu se sigurno može preobraziti liječenje – na način da postane predvidljivije i osobnije – ako imate pristup brojnim podacima. Odlučio sam i danas popodne objavio da ćemo mi u Francuskoj učiniti svoje podatke dostupnima i otvorenima. Ipak, čim je u pitanju privatnost, odnosno čim se otkriju osobne informacije, otvara se Pandorina kutija te dolazi do mogućnosti iskorištavanja istih koje neće pridonijeti općem dobru ili poboljšati načine liječenja. Otvara se i mogućnost razvijanja veoma profitabilnog poslovnog modela – podaci se mogu koristiti za uspješnije liječenje i nadziranje pacijenata, no također se mogu prodati osiguravatelju koji će tako imati saznanja o vama i vašim zdravstvenim rizicima te koji bi na tome mogao dobro zaraditi. Kada podatke počnemo koristiti za takve stvari, ogromna prilika pretvara se u ogroman rizik koji bi mogao potpuno uništiti nacionalnu povezanost i način na koji živimo jedni uz druge. Stoga zaključujem da je ova ogromna tehnološka revolucija zapravo politička revolucija.

SAD i Kina su lideri današnjice po pitanju umjetne inteligencije. U SAD-u je u potpunosti vodi privatni sektor, velike korporacije te nekoliko novih malih tvrtki. Sve odluke koje donose su privatne odluke koje se bave kolektivnim vrijednostima. Upravo to je problem s Facebookom, Cambridge Analyticom ili autonomnom vožnjom. S druge strane, Kinezi prikupljaju mnogo podataka zahvaljujući vladi čije vrijednosti nisu naše vrijednosti. Također, kolektivne preferencije u Europi ne odgovaraju u potpunosti onima u SAD-u i Kini. Ako želimo obraniti naš način postupanja s privatnošću, naš kolektivni odabir osobne slobode, a ne tehnološkog napretka, cjelovitost ljudskih bića i DNA, ako želimo sami odabrati svoje društvo i civilizaciju, moramo biti dio revolucije umjetne inteligencije. To je uvjet kako bismo imali pravo glasa u stvaranju i definiranju pravila umjetne inteligencije, što je jedan od glavnih razloga zbog kojih ja želim sudjelovati u njoj te biti jedan od njezinih vođa.

Ključni pokretač ne bi trebao biti samo tehnološki napredak, već ljudski napredak. To je jako bitno pitanje. Vjerujem da je Europa sposobna zauzeti se za kolektivne preferencije te ih popratiti univerzalnim vrijednostima. Europa je mjesto gdje je rođena demokracija, stoga mislim da se mora uhvatiti u koštac s onim što bi moglo postati velikim izazovom za demokraciju.

Nicholas Thompson: Smatrate dakle da nije riječ samo o gospodarskom napretku Francuske, već da će u inovativnu tehnologiju također biti uključen cijeli sustav vrijednosti? Želite li se uvjeriti da su u tehnologiju uključene vrijednosti do kojih držite vi, vaša zemlja i vaš kontinent?

Emmanuel Macron: Tako je. Želim da moja zemlja ima koristi od umjetne inteligencije te su mi zato jako važne objave Facebooka, Samsunga, IBM-a, DeepMinda i Fujitsua koji su odabrali Pariz za svoje laboratorije i istraživačke centre umjetne inteligencije. Također želim da moja zemlja bude dio revolucija mobilnosti, energije, obrane, financija, zdravstva itd. koje će pokrenuti umjetna inteligencija te koje će također stvoriti vrijednosti. Nadalje, želim da umjetna inteligencija bude u potpunosti federalizirana zato što će doći do narušavanja koje može, primjerice, uništiti mnoga radna mjesta u pojedinim sektorima te stvoriti potrebu za prekvalificiranjem ljudi. No, umjetna inteligencija također može biti rješenje za bolju izobrazbu tih ljudi te pronalazak novih poslova za njih, što je dobro i veoma važno za moju zemlju.

Želim da moja zemlja bude mjesto gdje se stvara novi pogled na umjetnu inteligenciju pomoću interdisciplinarnosti, odnosno kombiniranja matematike, društvenih znanosti, tehnologije i filozofije. To valja raditi od početka kako u budućnosti ne bismo bili prisiljeni rješavati taj problem.  Mislim da se o privatnosti već dugo skrivećki raspravlja u SAD-u. Rasprave su započele zbog Facebooka. Sigurnost je također problem koji se tiče autonomne vožnje – sjetimo se situacije s Uberom. Stoga, ako ne želite zaustaviti inovaciju, trebali biste je etički i filozofski ograničiti. Smatram da smo za to dobro opremljeni.

No, također mislim da bi umjetna inteligencija mogla u potpunosti ugroziti demokraciju. Umjetnu inteligenciju koristimo primjerice za organizaciju pristupa sveučilištima za studente, čime se algoritmu daje velika odgovornost. Mnogi ne razumiju kako se zapravo odvija postupak odabira studenata. Kada shvate da se postupak oslanja na algoritam, taj algoritam dobiva posebnu odgovornost. Valja stvoriti pravedne uvjete i potpunu transparentnost algoritma. Trebam se uvjeriti da u algoritmu nema pristranosti (ili barem nepoštenih pristranosti), kako bi moji ljudi imali korist od toga. Moram biti u stanju građanima Francuske reći "OK, zalagao sam se za ovo zato što će vam to omogućiti pristup novim uslugama te vam poboljšati živote“. Moram im jamčiti da ne postoje pristranosti na osnovi roda, dobi ili drugih osobnih obilježja. To je ogroman problem s kojim se valja pozabaviti. Ako to ne učinite na početku, ako ga ne smatrate jednako važnim kao razvitak inovacija, nešto ćete propustiti, a u određenom trenutku će sve zastati zato što će ljudi odbaciti tu novost.

Nicholas Thompson: Dakle, korak koji poduzimate kako biste to mogli jamčiti je činjenica da će svi algoritmi koje razvije francuska vlada biti "otvoreni". Hoće li algoritmi koje razvije bilo koja tvrtka koja prima novac od francuske vlade također trebati biti takvi?

Emmanuel Macron: Da.

Nicholas Thompson: A postoji i treći korak kojim jamčite transparentnost?

Emmanuel Macron: Povećat ćemo kolektivni pritisak kako bi algoritmi postali transparentni. Otvorit ćemo podatke o projektima koje financira vlada te omogućiti pristup. Poticat ćemo privatne aktere da budu u potpunosti javni i transparentni. Naravno da će neki od njih reći da njihovi algoritmi imaju komercijalnu vrijednost te da ih ne žele učiniti transparentnima. No, potrošači/građani mogu isto tako željeti bolje razumjeti algoritme kako bi se uvjerili da su pouzdani. Moć potrošačkog društva je toliko velika da tjera ljude da daju mnoštvo osobnih informacija kako bi pristupili uslugama koje pokreće umjetna inteligencija na aplikacijama, laptopima i slično. Ipak, građani će u određenom trenutku reći: "Želim biti siguran da se sve ove osobne informacije ne koriste protiv mene, već da se upotrebljavaju u skladu s etičkim načelima te da se sve nadgleda. Želim razumjeti što se to nalazi iza ovog algoritma i kakvu ulogu igra u mom životu". Siguran sam da će mnoge tvrtke ili laboratoriji koji nastanu u budućnosti svojim klijentima odgovoriti: "Pomoći ćemo vam da bolje shvatite algoritam koji koristimo te njegovu pristranost ili nepristranost". Prilično sam siguran da je to jedan od nadolazećih valova što se tiče umjetne inteligencije. Smatram i da će povećati pritisak na privatne aktere. Te nove aplikacije i stranice bit će u stanju reći ljudima: "OK! Možete posjetiti ovu tvrtku ili aplikaciju jer za vas sve provjeravamo – sigurno je", ili, s druge strane: 'Ako posjetite ovu stranicu ili aplikaciju, ne možemo vam jamčiti sigurnost – ne možemo provjeriti ili pristupiti točnim informacijama o algoritmu".

Nicholas Thompson: Pričali ste o tome da će umjetna inteligencija preobraziti demokraciju – mislite li da će doći dan kada će se odluke donositi na osnovi prijedloga algoritama umjetne inteligencije?

Emmanuel Macron: Trenutno mislim da bi nam umjetna inteligencija mogla pomoći, no nikad neće zamijeniti ljudske odluke. Svaka je odluka rezultat niza provjera. Umjetna vam inteligencija može pomoći zato što vam ponekad, kada donesete reformu, nisu u potpunosti jasni njezini potencijalni učinci (izravni i neizravni) te stoga možete oklijevati. Umjetna vam inteligencija može pomoći u donošenju prave odluke – primjerice, za pojašnjenje izravnih i neizravnih mjerljivih učinaka gospodarskih i društvenih reformi. Ipak, pri donošenju političke odluke mora također postojati osobni sud i odgovornost, što umjetna inteligencija nikada neće zamijeniti. Budući da političke vođe donose odluke te za njih odgovaraju, nikada neće moći reći: "OK, žao mi je što je odluka koju sam donio bila loša – kriv je algoritam".

Nicholas Thompson: U govoru ste mnogo pričali o prijevozu. Umjetna inteligencija će znatno poremetiti prijevoz – mnogi će ljudi izgubiti posao kada se automobili počnu kretati bez vozača. Stvorit će se i novi poslovi, no ljudi u Francuskoj već prosvjeduju. Prošlog vikenda organizirani su željeznički štrajkovi, a prošle jeseni štrajkovi vozača kamiona. Zar ne riskirate udruživanjem sa silom koja će poremetiti rad sektora koji već prosvjeduje kao lud?

Emmanuel Macron: Gledajte, mislim da u ovoj (i mnogo drugih) zemalja postoji tradicija kontroverza. Ja sam pokrenuo niz reformi za koje su mnogi smatrali da ih je nemoguće izvesti u Francuskoj. Stoga sam potpuno siguran da je moguće donijeti takve reforme ako ste odlučni, imate energije te ih objasnite ljudima. Ja ću to rado napraviti – umjetnu inteligenciju ne doživljavam kao prijetnju te mi nije problem ljude uvjeriti u njenu korisnost. Potrošači su već veliki fanovi umjetne inteligencije i inovativnih rješenja. Tko god se bavi tehnologijom, može vam reći da je francusko tržište jako dobro. Ljudi ovdje vole tehnologiju. Mislim da sam zato od početka mandata smatrao da zaustavljanje promjena i fokusiranje na zaštitu poslova nije pravo rješenje. Trebamo zaštiti ljude, a to možemo učiniti tako da im nudimo prilike, izučavamo ih i prekvalificiramo za nove poslove. Promjene ne valja zaustavljati zato što će ih ljudi prihvatiti – ono što je potrebno je razumjeti promjene i pozabaviti se s njima. One mogu uništiti neka radna mjesta, ali i stvoriti nova u drugim sektorima.

Umjetna inteligencija vjerojatno će ugroziti najnapornija zanimanja, no doći će do stvaranja niza novih prilika za ljude s niskim, srednjim i visokim kvalifikacijama. Veliki rizik za naše društvo je povećanje prilika samo za visokokvalificirane ljude ili samo za one niskokvalificirane. Nužno je nadzirati srednji sloj zato što u njemu može doći do najvećeg narušavanja situacije. Što se tiče vaših primjera, to uključuje vozače taksija, ljude koji rade u industriji i one koje obavljaju repetitivne poslove. Njih valja obrazovati kako bi promijenili sektor u kojem rade ili pak stekli više kvalifikacije za rad sa strojem. Trebat će nam ljudi za rad sa strojevima.

Ne vjerujem da će postojati autonomna vozila bez ikakvog vozača. Mislim da je to čista maštarija. Već postoje automatski programi za vožnju aviona, što znači da bismo mogli imati avione bez pilota. Ipak, i dalje postoje dva pilota u svakom avionu – naime, potreban nam je netko tko će preuzeti odgovornost. Uvođenjem autonomnih automobila smanjili bismo opasnosti – primjerice probleme koji se pojavljuju pri duljoj vožnji – no za donošenje kritičnih odluka u kritičnim trenucima i dalje će nam biti potrebni ljudi. Dakle, umjetna inteligencija promijenit će prijevoz no neće u potpunosti uništiti radna mjesta.

Sve u svemu: svoju zemlju mogu uvjeriti u korisnost promjene upravo zato što je prihvaćam. Moja uloga nije zaustavljanje promjena, već izučavanje ili prekvalifikacija ljudi u skladu s promjenama.

Nicholas Thompson: Jasno mi je. Imam za vas vojno pitanje. UN je raspravljao o ograničavanju autonomnog smrtonosnog oružja. Mislite li da bi se umjetnoj inteligenciji ikada moglo povjeriti ubijanje bez ljudske intervencije?

Emmanuel Macron: U potpunosti sam protiv toga. Smatram da netko uvijek treba preuzeti odgovornost. U određenim situacijama automatizacija bi čak i mogla biti moguća, no u ovom kontekstu ne smije doći do odsustva odgovornosti koja je iznimno bitna. Uvijek je potrebna ljudska provjera. Stroj može sve pripremiti te smanjiti nesigurnosti, no ključnu odluku treba donijeti odgovorna osoba.

Nicholas Thompson: Imam pitanje vezano za nadmetanje država što se tiče umjetne inteligencije. Elon Musk je prije nekoliko mjeseci na Twitteru izjavio da će to nadmetanje vjerojatno prouzrokovati treći svjetski rat. Mislite li da pretjeruje (pogotovo u slučaju SAD-a i Kine)?

Emmanuel Macron: Mislim da će situacija postati jako intenzivna. Ne bih htio biti suviše pesimističan – smatram da je temelj umjetne inteligencije globalno istraživanje te da je ona trajno povezana sa suradnjom i nadmetanjem. Dakle, ako želite biti konkurentni potreban vam je otvoreni svijet i mnogo suradnje, pa čak i nadmetanje. Također mislim da valja promisliti o neovisnosti. O tome sam pričao i u današnjem govoru – umjetna inteligencija je globalna inovacija u kojoj postoje veliki privatni igrači i jedna vlada s brojnim podacima (Kina). Moj cilj je stvoriti europsku nezavisnost što se tiče umjetne inteligencije, što sam vam rekao i na početku intervjua, posebice glede propisa. Doći će do bitki vezanih za nezavisnost – zemlje će pokušati obraniti svoje izbore. Doći će do trgovinske borbe poput one koju vidimo u različitim sektorima. No ne smatram da će doći do krajnosti o kojoj Elon Musk govori jer je za napredak potreban otvoreni inovacijski model.

Nicholas Thompson: Vaš odgovor je dakle pomalo ciničan. Imam još jedno pitanje - ako Francuska počne stvarati sektor umjetne inteligencije, na neki način postaje konkurentnom Googleu i Facebooku. Zar vas to neće potaknuti da strože regulirate Google i Facebook. Stvara li to čudnu atmosferu?

Emmanuel Macron: Čujte, smatram da je upravo suprotno. Google, Facebook itd. su itekako dobrodošli. Većini ljudi se sviđaju, te tvrtke ulažu u Francuskoj, zapošljavaju mnogo naših talentiranih ljudi te ovdje razvijaju svoje poslovanje. Dakle, dio su našeg ekosustava. Problem za ove velike igrače je činjenica da će se morati pozabaviti s više pitanja. Prije svega, tu je problem monopola – oni su ogromni igrači. U određenom trenutku ljudi će reći: "Otvori oči. Prevažni su (ne samo prevažni da bi propali, nego i prevažni da bi ih se reguliralo, što je u potpunosti novo)". To će vjerojatno biti problem za SAD, a ne za Europu. To se dogodilo na počecima razvoja naftnog sektora, kada su također postojali tako veliki igrači na tom području.

Drugo, tu je i teritorijalni problem jer je riječ o potpuno digitalnim akterima koji narušavaju tradicionalne gospodarske sektore. To bi na neki način čak moglo biti u redu jer također pružaju nova rješenja. Ipak, moramo prekvalificirati ljude, za što neće platiti tvrtke, već vlada. Danas Google, Facebook, Apple i Amazon u Europi ne plaćaju sve poreze koje bi trebali te stoga ne doprinose rješavanju negativnih učinaka koje stvaraju. Također, oni traže od sektora koje narušavaju da plaćaju – jer stari sektori plaćaju PDV, porez na dobit itd. To nije održivo.

Treće, ljudi bi trebali ostati neovisni po pitanju pravila o privatnosti – Francuska i Europa imaju svoje preferencije koje su različite od SAD-a. Kako bih mogao Francuzima jamčiti da će američki igrači poštovati naše propise? Dakle, oni će u određenom trenutku morati stvoriti pravna tijela koja će biti aktivna u Europi te poštovati europska pravila vezana za obradu informacija, organizaciju itd. Trebat će im dakle organizacija koja je prikladnija Europi, što znači da će se trebati preoblikovati za fragmentiraniji svijet, zato što se odgovornost i demokracija događaju na državnoj i regionalnoj, a ne na globalnoj razini. Ako ne bude tako, neću moći zaštiti građane Francuske niti jamčiti njihova prava. Ako to ne učinim, francuskim tvrtkama neću moći jamčiti da će se s njima pravedno postupati. Google, Facebook, Apple i Amazon su dobrodošli – želim da budu dio našeg ekosustava. Ipak, oni ne primjenjuju uvjete jednake onima drugih igrača u digitalnom ili tradicionalnom gospodarstvu pa ja svojim građanima ne mogu dugoročno jamčiti da će se njihove kolektivne preferencije ili moja pravila u potpunosti primjenjivati (jer naši i američki propisi nisu isti). Kad u određenom trenutku ne bismo raspravili i uredili taj problem, doveo bih se u situaciju da više nisam nezavisan.

Nicholas Thompson: Zar ti ciljevi nisu suprotni? Želite da Google, Facebook, Apple i Amazon dođu u Francusku - Google se bavi umjetnom inteligencijom (u Francuskoj) od 2012. godine - no također ih želite suzbiti. Kako ćete istovremeno postići oba cilja?

Emmanuel Macron: Ne. Prvo, ne postoje samo Google, Facebook, Apple i Amazon. Tu je i mnogo drugih igrača, novih tvrtki itd. koje otkrivaju da će se morati baviti demokratskim i političkim pitanjima u vašoj zemlji.

Nicholas Thompson: Tek počinju učiti!

Emmanuel Macron: Da. Riječ je o kraju prve, rane faze bez ikakvih propisa u kojoj su oni određivali sva pravila. Sada se trebaju pozabaviti s vladama – ja bih volio da dođe do suradnje. Ne bih htio reći da nekoga više ne želim, već upravo suprotno – htio bih stvoriti trajni dijalog. No želim da oni razumiju moja ograničenja. Želim da budu dio mojeg razmišljanja i da razmotre svoje pozicije. Želim da bolje razumiju činjenicu da je nemoguće imati svijet bez demokratske odgovornosti.

Nicholas Thompson: Jasno mi je. Vratimo se na bitna pitanja, što će se smatrati uspjehom? Kako ćete znati da je uspjeh postignut? Što će se za nekoliko godina smatrati neuspjehom?

Emmanuel Macron: Čujte, mislim da je jako teško odgovoriti na to pitanje zato što ne znam što će se točno dogoditi s umjetnom inteligencijom unutar pet godina. No, ako uspijem razviti snažan ekosustav, prvi u Europi u području umjetne inteligencije za mobilnost, obranu, zdravstvo, tehnologiju itd., smatrat ću da je uspjeh postignut. Za mene će također biti uspjeh ako većina ljudi u Francuskoj bude razumjela i podržala promjene. Neuspjehom ću smatrati situaciju u kojoj su nas blokirali strahovi. Brine me nepovezanost između brzine inovacije i određenih praksi te vremena za prihvaćanje promjena.

Moram stvoriti recipročno i zajedničko povjerenje između istraživača, privatnih igrača, novih tvrtki i građana. Ako prva kategorija ljudi bude vjerovala da je država važan ekosustav za njih, a istovremeno uspijem stvoriti i povjerenje građana u umjetnu inteligenciju, smatrat ću se uspješnim.

Ako ne uspijem stvoriti povjerenje jedne od tih grupa, smatrat ću se neuspješnim.