Cathy O Neil, fostă jurnalistă la Wall Street Journal, avertizează că modelele matematice care ne organizează viețile (școlile la care mergem, împrumuturile la bancă, asigurările) sunt opace, nereglementate și incontestabile, chiar dacă greșesc. Și, ce e mai rău, ele hrănesc discriminarea, într-un „cocktail toxic pentru democrație”.

Volumul Arme matematice de distrugere a apărut în colecția Anticipația de popularizare a științei. Bestseller New York Times, cartea a fost nominalizată și la National Book Award în 2016.

AMD-urile (Armele matematice de distrugere), prin însăși natura lor, se hrănesc cu informații care pot fi măsurate și numărate. Dar corectitudinea este imprecisă și greu de cuantificat. Este un concept. Și computerele, cu toate progresele lor în limbaj și logică, încă se luptă din greu cu concepte. Ele „înțeleg” frumusețea doar ca pe un cuvânt asociat cu Grand Canyon, apusuri de soare deasupra oceanului și sfaturi de îngrijire în revista Vogue. În zadar încearcă să măsoare „prietenia” numărând aprecieri și conexiuni pe Facebook. Iar conceptul de corectitudine le scapă cu desăvârșire. Programatorii nu știu cum să o codifice, și doar câțiva dintre șefii lor le cer să o facă.

Prin urmare, corectitudinea nu este calculată într-o AMD. Iar rezultatul este o producție masivă, industrială, de inechitate.

Rădăcina răului, ca și în cazul multor alte AMD-uri, este alegerea obiectivelor de către cei care elaborează modelele. Modelul e optimizat pentru eficiență și rentabilitate, nu pentru dreptate sau pentru binele „echipei!. Aceasta este, bineînțeles, natura capitalismului. Pentru companii, venitul este ca și oxigenul. Le ține în viață.

Cathy O Neil folosește câteva exemple de algoritmi și anecdote din viața de zi cu zi, adresându-se cititorilor fără formație în științe exacte și ilustrând alunecările etice și morale ale unui sistem automatizat.

În continuare, câteva exemple:

În afară de informatica de ultimă generație, agenții agresivi de publicitate lucrează adesea și cu intermediari, care folosesc metode mult mai brutale pentru a-și ținti victimele. În 2010, o reclamă eficace prezenta o fotografie a președintelui Obama, cu textul: „Obama le cere mamelor să se întoarcă la școală: sunt disponibile ajutoare financiare pentru cele care se califică”. Anunțul sugera că președintele semnase un nou proiect de lege destinat să aducă mamele înapoi la școală. Era o minciună. Dar dacă i-a impulsionat pe oameni să facă clic, înseamnă că și-a atins scopul.

În spatele acestui titlu înșelător, se ascundea o întreagă industrie murdară. Conform unei anchete efectuate de ProPublica, în momentul în care o consumatoare a accesat reclama, i s-au adresat câteva întrebări, inclusiv vârsta și numărul de telefon, iar apoi a fost imediat contactată de o școală privată. Aceștia nu i-au mai dat informații despre noul proiect de lege al președintelui Obama, pentru că nici nu a existat vreodată. În schimb, s-au oferit să o ajute să împrumute bani pentru înscriere.

Acest tip de țintire online se numește „generare de contacte”. Scopul său este să creeze liste cu potențiali clienți care pot fi vândute – în acest caz – universităților private. Potrivit raportului ProPublica, între 20 și 30 % din bugetele de publicitate ale colegiilor private se consumă pentru generarea de contacte. Pentru cei mai promițători clienți, colegiile vor plăti mai mult de 150 de dolari pentru fiecare.

Bancherii locali erau oameni de seamă într-un oraș. Ei stăpâneau banii. Dacă doreați să vă luați o mașină nouă sau un credit ipotecar, vă puneați hainele de duminică și le făceați o vizită. Și, ca membru al comunității, bancherul probabil că știa următoarele detalii despre viața ta: dacă te duci sau nu la biserică, dacă fratele tău mai mare are probleme cu legea, dacă șeful tău (și partenerul lui de golf) au zis ceva despre tine ca angajat. Bineînțeles, el îți cunoștea rasa și grupul etnic și, de asemenea, ar fi aruncat o privire la cifrele din formularul de cerere.

Primii patru factori au contat adesea, în mod conștient sau nu, în judecata bancherului. Și e foarte probabil să aibă mai multă încredere în oamenii din cercul lui. E omenește. Dar a însemnat că, pentru milioane de americani, starea de fapt din era predigitală a fost la fel de îngrozitoare ca unele dintre AMD-urile pe care le descriu. Intrușii, inclusiv minoritățile și femeile, rămâneau pe dinafară de obicei. Trebuiau să întocmească un portofoliu financiar impresionant și apoi să-i vâneze pe bancherii cu mintea mai deschisă.

Pur și simplu nu era corect. Apoi a apărut un algoritm și lucrurile s-au îmbunătățit. Un matematician pe nume Earl Isaac și Bill Fair, prietenul lui, inginer, au elaborat un model pe care l-au numit FICO pentru a evalua riscul ca o persoană să nu ramburseze un împrumut.

La sfârșitul secolului al XIX-lea, un renumit statistician, Frederick Hoffman, a creat o AMD puternică. Este foarte probabil că Hoffman, un german care lucra la compania de asigurări de viață Prudential, nu a vrut să facă niciun rău. Cercetările sale de mai târziu au avut o contribuție importantă la sănătatea publică. A realizat o lucrare valoroasă privind malaria și a fost printre primii care au asociat cancerul cu tutunul. Cu toate astea, într-o zi de primăvară a anului 1896, Hoffman a publicat un raport de 330 de pagini, care a readus cauza egalității rasiale în Statele Unite și a întărit, pentru milioane de oameni, statutul lor de cetățeni de mâna a doua. Raportul său folosea statistici exhaustive menite să demonstreze că viețile americanilor negri erau atât de precare, încât întreaga rasă era de neasigurat.

Analiza lui Hoffman, la fel ca multe dintre AMD-urile despre care am discutat, era eronată statistic. El a confundat cauzalitatea cu corelația, astfel încât informațiile voluminoase pe care le-a adunat au servit doar pentru a-i confirma teza: rasa era un element puternic de predicție a speranței de viață. Rasismul era atât de înrădăcinat în gândirea sa, încât părea că nu și-a pus niciodată problema că sărăcia și nedreptatea ar putea avea legătură cu rata mortalității afro-americanilor, ori că lipsa școlilor decente, a canalizării, a locurilor de muncă sigure și a accesului la îngrijire medicală ar putea să-i omoare la o vârstă mai fragedă.

La final, un mesaj din partea autoarei:

Big Data are o mulțime de propovăduitori, dar eu nu sunt unul dintre ei. Cartea de față se va concentra puternic în cealaltă direcție, asupra daunelor produse de AMD (Arme matematice de distrugere) și asupra nedreptății pe care o perpetuează. Vom explora exemple dăunătoare care afectează oamenii în momente cruciale din viață: când merg la facultate, când împrumută bani, când primesc condamnări la închisoare, caută ori vor să își păstreze un loc de muncă. Toate aceste domenii ale vieții sunt din ce în ce mai controlate de modele secrete, care aplică pedepse arbitrare.

Bine ați venit în partea întunecată a sistemului Big Data!