"copy/paste" DeepMind

DeepMind intrase pe radarul celor de la Google la trei ani dupa ce isi incepuse activitatea. Spre deosebire de orice alt startup (de tipul lor) de pe planeta, cei de la DeepMind nu s-au preocupat de „interfata” om/ masina - functionalitatea masinilor si a creierelor si combinatia dintre cele doua. Nu! DeepMind era despre ceva fundamental, despre radacina inteligentei. Nu a celei umane sau a celei artificiale, ci a oricarei forme de inteligenta. DeepMind se intorsese la principiile de baza: atat oamenii, cat si robotii sunt, si unii, si altii, doar niste carapace exterioare care actioneaza si gandesc datorita inteligentei decodificabile. Daca decodifici acea inteligenta, intelegi cum functioneaza totul si stapanesti lumea. La Googleplex, in orasul Mountain View din California, cei trei tineri londonezi si Larry Page au batut palma. Google a platit 650 de milioane de dolari pentru o companie care abia implinise trei ani. „Nu a fost doar cea mai importanta afacere din istoria Google. A fost cea mai importanta afacere a omenirii. Creand cel mai popular motor de cautare din lume, Google a construit cea mai puternica masina de pe Pamant. Dar prin achizitionarea DeepMind, Google are potentialul de a poseda inteligenta. Va putea atunci sa introduca creierul in masina Google”, aprecia cercetatorul si jurnalistul BBC Jacques Peretti in studiul „Intelegerile care ne-au schimbat lumea” (Litera, 2019). Ce inseamna insa un creier in masina Google?

Explicatiile au venit tot de la Jacques Peretti: „Afacerea Google-DeepMind a deschis calea crearii unui nou organism din ceea ce DeepMind numeste «tesut cognitiv de masina». Nici viu, nici mort, ci constient. O specie cu totul noua”. Interesant, dar ce fel de specie mai e si aceasta? In cadrul unui interviu acordat in 2011, Shane Legg, fondatorul DeepMind, a oferit detalii tulburatoare: „Cred ca, in cele din urma - a spus el -, extinctia umana probabil va avea loc si e de presupus ca tehnologia va juca un rol in acest proces”. Chestionat apoi in legatura cu o eventuala suferinta prelungita a oamenilor, Shane Legg a fost ferm: „Daca prin suferinta intelegi suferinta prelungita, atunci cred ca acest lucru este destul de putin probabil. Daca o masina superinteligenta ar decide sa scape de noi, cred ca ar face-o intr-un mod destul de eficient. Nu cred ca vom proiecta in mod deliberat masini superinteligente care sa maximizeze suferinta umana”. De atunci inainte, tranzactia DeepMind, pe care Legg si partenerii sai au incheiat-o cu Google, a fost interpretata drept afacerea care ne va aduce extinctia. Elon Musk, un om care nu se pierde usor cu firea in fata unui viitor distopic, a fost socat: „Intelegerea dintre Google si DeepMind este mai periculoasa decat bombele nucleare“. La randul lui, genialul Stephen Hawking s-a exprimat si mai dur: „Cred ca acest deal (n.r. intelegere) va duce la sfarsitul omenirii asa cum o cunoastem astazi”.

Reactie anemica a rasei umane

„Declaratii dure, doar ca Legg avea pur si simplu o atitudine «post-umana» fata de felul in care se conturau evenimentele viitoare. Odata ce inteligenta este decodificata si creierul este in masina, de ce au oamenii un primat moral fata de orice alta forma de existenta, vie sau sub forma de masina? Pur si simplu era logic ca, odata ce conectezi tesutul congnitiv la masina, se creeaza un organism care poate sa decida daca oamenii sunt sau nu necesari”, sublinia Jacques Peretti. Oricum, pentru o afacere care avea sa ne aduca extinctia, tranzactia Google-DeepMind a primit remarcabil de putine reactii din partea rasei umane. Stephen Hawking a aratat ca se impunea constituirea unui comitet de etica independent, care sa examineze studiul celor de la DeepMind, in conditiile in care aceasta ne adancea, tot mai mult, intr-un „minunat” viitor. Dar nici pana in ziua de astazi nu s-a intamplat asa ceva. „Incredibil este faptul ca, indiferent de cat de terifianta pare afacerea DeepMind, ea nu se opreste aici - mai mentiona Peretti. A fost deschisa o Cutie a Pandorei pe care nici Google, nici DeepMind nu pot sa o inchida, nici sa controleze ceea ce urmeaza sa se intample”. Adica?

Lansarea aplicatiei Streams

In 2016, DeepMind a reaparut brusc in Londra. Revista New Scientist a scos la iveala care era urmatoarea mutare pe care aveau de gand sa o faca cei de la Google. „Negociau o intelegere secreta cu Royal Free NHS Trust care administreaza Barnet, Chase Farm si Royal Free Hospitals si care detine datele confidentiale a 1,6 milioane de pacienti”, releva Peretti. Intelegerea avea sa le permita celor de la DeepMind sa acceseze milioane de informatii, deosebit de sensibile, fara consimtamantul pacientilor. Totul, de la date referitoare la tratamente medicale pentru afectiuni acute, accidente si urgente, pana la patologie, radiologie, HIV si statistici referitoare la avorturi. Dupa doar un an, in 2017, au aratat care erau, de fapt, intentiile lor. Google a anuntat lansarea Streams, o aplicatie care declanseaza alerte mobile cand semnele vitale ale unui pacient sau analiza sangelui sunt identificate ca anormale. „Zece mii de oameni mor anual din cauza insuficientei renale acute”, a anuntat Mustafa Suleyman de la DeepMind. „Aceste decese sunt intru totul evitabile. Putem sa declansam o alerta care sa le permita asistentelor sau doctorilor sa ia masuri preventive, cum ar fi injectarea intravenoasa de antibiotice cand rinichii sunt deshidratati, pentru a preintampina agravarea situatiei in urma careia pacientul ajunge la terapie intensiva”.

Un pact secret impardonabil

„Streams pare sa fie un exemplu remarcabil de tehnologie, dar este, de asemenea, si un mod de a forta lucrurile - opina Jacques Peretti. Va fi folosit initial pentru a identifica oamenii care sunt expusi riscului de a avea probleme cu rinichii, dar se preconizeaza ca va fi extins de-a lungul urmatorilor cinci ani. Iar indiciul ce ne ajuta sa intelegem care este urmatorul lucru pe care il va face ne este oferit de ceea ce pretinde DeepMind cu privire la acest serviciu. Suleyman vede in Streams o aplicatie ce va deveni esentiala pentru administrarea cotidiana a spitalului. Nu doar ca va detecta stari acute precum septicemia, ci - iar aici este cheia - va coordona inclusiv tratarea pacientilor”. Cu alte cuvinte, odata tehnologia implantata in inima spitalului, apare posibilitatea ca algoritmii, nu doctorii, sa decida ce fel de ingrijire urmeaza sa primeasca pacientii. Una peste alta, Google ar detine, prin Streams, cheile de acces ale datelor noastre confidentiale. Criticii afacerii au vazut-o ca fiind profund periculoasa. Julia Powels si Hal Hodson, de la Universitatea Cambridge, au calificat intelegerea secreta cu sistemul national de sanatate britanic drept „impardonabila“, iar afirmatiile celor de la DeepMind, cu privire la Streams, drept „ciudate”. Google a contraatacat rapid. Un articol din revista de tehnologie Wired a afirmat ca, datorita Streams, asistentii din cadrul serviciului de sanatate economiseau doua ore in fiecare zi. Apoi a intervenit si Suleyman, anuntand ca DeepMind dezvolta un sistem de monitorizare a datelor pacientului in stilul bitcoin, folosind tehnologie blockchain pentru a le proteja.

Preluarea silentioasa a controlului

Google incepea lupta pentru castigarea inimii si mintii unei societati sceptice, precum si pentru castigarea inimilor si mintilor profesionistilor din domeniul sanatatii. Aveti incredere in noi, spuneau ei. Si acesta este trocul. 1,6 milioane de pacienti (zece milioane, daca programul era extins la nivel national) ale caror date sunt puse la dispozitia Google, pentru a fi analizate, si ce obtii in schimb? Tehnologia de ultima ora, de care ai nevoie disperata, si usurarea presiunii exercitate asupra putinului timp si asupra resurselor insuficiente ale personalului din prima linie. „Tehnologia face posibila preluarea silentioasa a controlului asupra sistemului de sanatate. Prin DeepMind, Google poate sa o ia inaintea celorlalti patru (Microsoft, Facebook, Amazon si Apple) mari rivali ai sai in competitia pentru preluarea sistemului de sanatate si, ceea ce este si mai operativ, sa puna mana pe mina de aur a secolului XXI: industria globala a sanatatii”. Asociindu-se cu Organizatia Mondiala a Sanatatii si ONG-urile din prima linie pentru a construi sisteme de sanatate peste tot in tarile in curs de dezvoltare, gigantii tech sunt noii cavaleri in armura stralucitoare, doar ca in prezent conduc jeepuri albe decapotabile. Pe vremuri, triajul in cazul dezastrelor medicale il faceau Crucea Rosie si Médecins Sans Frontières, dar odata cu criza de finantare a sistemelor de sanatate zona de triaj s-a largit exponential, de unde si piata potentiala ce poate fi capturata cand si sistemele de sanatate din lumea dezvoltata se vor prabusi.

„DeepMind” a inteles ceva fundamental: atat oamenii, cat si robotii sunt, si unii, si altii, doar niste carapace care actioneaza si gandesc datorita inteligentei decodificabile. Daca decodifici acea inteligenta, intelegi cum functioneaza totul si stapanesti lumea