Startup-urile de inteligență artificială vând imagini generate de computer, care arată real. Acest lucru oferă companiilor șansa de a crea modele imaginare și de a crește varietatea mult dorită în anunțurile lor, fără a fi nevoie să angajeze oameni reali.

persoane

O astfel de companie oferă vânzarea unei varietăți de fotografii pentru broșuri și a găsit deja clienți, inclusiv o aplicație de întâlniri care intenționează să utilizeze imaginile într-un chatbot.

O altă companie spune că se deplasează dincolo de fotografia portretului generată de inteligență artificială, pentru a genera corpuri umane întregi încă din această lună.

Software-ul AI folosit pentru a crea astfel de fețe este disponibil gratuit și evoluează rapid, permițând startup-urilor mici să creeze fețe care sunt atât de convingătoare încât pot induce în eroare ochiul uman. Sistemele sunt instruite pe baze de date imense de oameni foarte reali, după care încearcă să-și reproducă caracteristicile până când se ajunge la o persoană nouă.

Experții în tehnologie se tem că falsificatorii vor ajuta o nouă generație de escroci, roboți și spioni care vor putea folosi fotografii pentru a construi imagini online imaginare, deghiza modul în care personalul părtinitor este recrutat în multe locuri și dăunează încercărilor de a aduce diversitatea în diferite industrii.

Faptul că un astfel de software își folosește deja propriul model de afaceri poate duce la o scădere și mai mare a încrederii pe Internet, care este deja o țintă a campaniilor de dezinformare, a videoclipurilor deepfake și a altor tehnici înșelătoare.

Elana Zaidi, cercetător în domeniul inteligenței artificiale, drept și politici la Universitatea din California, Facultatea de Drept din Los Angeles, spune că tehnologia demonstrează cât de puțină putere și cunoștințe au consumatorii în contextul realității online pe care o văd. Potrivit ei, nu există nicio realitate obiectivă cu care să comparați aceste fotografii.

Noi, oamenii, suntem obișnuiți cu lumea fizică cu percepții senzoriale, dar în acest caz nu avem instinctul de a afla ce este real și ce nu.

Icons8 este o companie de design grafic din Argentina, care vinde ilustrații digitale și fotografii stoc. Compania și-a lansat luna trecută afacerea online Generated.photos, oferind o varietate de modele la cerere. Toate sunt realizate din inteligență artificială și, potrivit companiei, pot fi folosite „fără griji”.

Site-ul permite oricui să găsească fotografii false bazate pe diverse filtre, cum ar fi vârsta (de la „bebeluș” la „bătrân”), etnie (inclusiv „alb”, „latino”, „asiatic” și „negru”) și emoție ( „bucurie”)., „„ neutru ”,„ „surpriză”), precum și genul, culoarea ochilor și lungimea părului. Cu toate acestea, sistemul demonstrează unele omisiuni și părtiniri ciudate, de exemplu, singura culoare a pielii disponibilă pentru copii este albul.

Compania spune că imaginile sale pot fi utile pentru clienții care trebuie să își diversifice materialele publicitare sau să ilustreze concepte prea delicate pentru a utiliza modele reale. Acestea sunt, de exemplu, simulările de investigații penale sau situații sociale incomode. Ghidul online le promite clienților că pot crește diversitatea prin includerea „multor grupuri etnice în proiectele lor”.

Companiile au fost deja agresate de încercările stângace de a crește varietatea materialelor lor adăugând la Photoshop un bărbat negru într-o mulțime complet albă.

Acest lucru a fost făcut, de exemplu, de Universitatea din Wisconsin într-o broșură pentru studenți. Organizatorii unui eveniment tehnologic au fost, de asemenea, prinși „în pas” și ulterior au adăugat femei la fotografia de grup a celor prezenți. Dar, în timp ce startup-urile AI indică o soluție simplă și oferă o iluzie de diversitate, sistemele lor au un defect critic - emulează doar imaginile pe care le-au văzut deja.

Valerie Emmanuel, cofondator al unei agenții de talente din Los Angeles, a comentat că se teme că acest tip de fotografii false vor transforma mass-media într-o „monocultură” în care majoritatea oamenilor arată la fel. Emmanuel vrea să creeze mai multă varietate și să arate fețe unice în publicitate, iar imaginile create de AI se omogenizează și uniformizează aspectul.

Icons8 și-a creat fețele făcând zeci de mii de fotografii a aproximativ 70 de modele, a declarat Ivan Brown, fondatorul companiei. Colegii lui Brown, care lucrează nu numai în Statele Unite, ci și în Italia, Israel, Rusia și Ucraina, petrec apoi câteva luni pregătind o bază de date. Corectează imaginile, introduc date și organizează fotografiile în conformitate cu specificațiile precise ale computerului.

Cu imagini gata disponibile, inginerii folosesc apoi sistemul AI pentru a genera o mulțime de imagini noi.

Deci primesc 1 milion de imagini noi într-o singură zi. Echipa selectează apoi 100.000 dintre cele mai convingătoare fotografii pe care le prezintă pentru uz public. Mai multe dintre ele vor fi generate în lunile următoare.

Compania, spune Brown, a găsit trei clienți în prima săptămână. Acestea sunt o universitate americană, o aplicație de întâlniri și o companie de planificare a resurselor umane. Cu toate acestea, Brown refuză să numească exact cine sunt clienții.

Clienții pot descărca până la 10.000 de fotografii pe lună pentru sume începând de la 100 USD. Modelele nu primesc deduceri din fotografiile noi, generate de AI, pe baza ședințelor lor, a spus Brown.

O altă pornire, de data aceasta din San Francisco - Rosebud AI, oferă clienților săi o alegere între 25.000 de fotografii ale modelelor modificate de AI din diferite grupuri etnice.

Fondatorul companiei este Lisha Li, care îl numește codul de înșelăciune de la „Sims”, care aduce jucătorului o sumă infinită de bani. Lee spune că inițial a promovat fotografia ca o modalitate pentru companiile mici în vânzările online de a crea imagini elegante fără a fi nevoie să recurgă la ședințe foto scumpe.

Primele imagini ale companiei sale provin din baze de date online cu fotografii gratuite și cele fără drepturi de autor, iar sistemul le permite clienților să suprapună cu ușurință diferite fețe pe un set mare de corpuri. Lee își promovează compania ca un instrument puternic pentru împuternicirea fotografilor care adaptează cu ușurință modelele de ședințe foto la naționalitatea și etnia spectatorilor.

„Fața este problema delicată pe care tehnologia o poate rezolva acum”, spune Lisha.

Sistemul este oferit unui grup limitat de clienți pe care compania îi evaluează pentru a opri utilizatorii fără scrupule. Aproximativ 2000 de clienți sunt pe lista de așteptare a serviciului.

Ambele companii se bazează pe o descoperire în inteligența artificială, cunoscută sub numele de „rețeaua de curse generative”. Folosește algoritmi concurenți pentru a îmbunătăți munca - creatorul de sistem generează o nouă imagine, pe care criticul de sistem o compară apoi cu originalul, care afectează următorul design al „creatorului”. Fiecare pas ulterior în acest caz duce la o copie mai bună decât cea precedentă.

Cu toate acestea, sistemele sunt imperfecte și nu sunt instruite în elementele de bază ale anatomiei umane, așa că pot încerca să combine doar modele pe toate fețele pe care le-au procesat până acum. Între timp, AI creează o armată a ceea ce Brown numește „monștri”: fețe de coșmar cu deformări inumane și mutații suprarealiste. Exemple obișnuite includ mâini cu prea multe degete, fețe fără trăsături și oameni cu gură în loc de ochi.

Software-ul a devenit una dintre cele mai atractive și senzaționale descoperiri pentru cercetătorii AI în ultimele luni, reducând sever timpul și efortul necesar artiștilor pentru a crea peisaje imaginare și oameni fictivi.

Un flux aproape nesfârșit de imagini false poate fi văzut pe thispersondoesnotexist.com și există un sistem AI însoțitor instruit pe imagini de pisică numit thiscatdoesnotexist.com.

Pentru a testa dacă oamenii pot face diferența dintre imaginile false generate și realitate, cercetătorii AI de la Universitatea din Washington au creat și un site de comparație carefaceisreal.com.

Tehnicile de învățare automată sunt „open source” și permit aproape oricui să le utilizeze și să le actualizeze. Software-ul evoluează tot timpul: o versiune mai nouă a StyleGAN, introdusă luna trecută de cercetătorii Avid de la Nvidia, promite metode de generare mai rapidă, imagini de calitate superioară și mai puține erori și artefacte care emit falsificări anterioare.

Cercetătorii spun că imaginile sunt un cadou din cer pentru cei care răspândesc dezinformare deoarece, spre deosebire de fotografiile reale făcute în altă parte, nu pot fi urmărite cu ușurință. Astfel de falsuri sunt deja utilizate, inclusiv pe Facebook, unde moderatorii găsesc imagini folosite pentru a crea profile false care promovează anumite pagini sau idei politice.

Într-un alt caz, s-a constatat la începutul acestui an că profilul LinkedIn al unei tinere despre care se presupune că se numea Katie Jones, care făcuse contacte cu personalități în vârstă din Washington, folosește o imagine generată de AI. Experții în contraspionaj au declarat pentru Associated Press că aceasta pare a fi o manifestare tipică a spionajului străin.

Tehnologia este, de asemenea, baza videoclipurilor de partajare a feței cunoscute sub numele de deepfake, utilizate atât pentru parodii, cât și pentru pornografie falsă.

Sistemele au necesitat odată cantități uriașe de „date cu caracter personal” pentru a genera un fals convingător. Cu toate acestea, anul acesta, oamenii de știință au publicat detalii despre tehnicile „cu cadru redus” care necesită doar câteva fotografii pentru a face o imitație convingătoare.

Crearea de imagini generate de AI cu astfel de volume poate fi extrem de costisitoare, deoarece procesul necesită o cantitate neobișnuit de mare de putere de calcul sub formă de servere și plăci grafice scumpe. Compania lui Brown, ca și altele, profită de concurența în serviciile cloud între Google și Amazon, oferind „credite” pe care startupurile le pot folosi pentru lucrări serioase de IA la tarife foarte reduse.

Brown spune că există îngrijorări legitime cu privire la utilizarea imaginilor generate de AI pentru dezinformare sau abuz, adăugând că trebuie să ne facem griji cu privire la acest lucru, deoarece tehnologia este deja acolo și nu există încotro.

Rezolvarea acestei probleme, a spus el, nu este responsabilitatea unor companii ca a sa: este necesară o „combinație de schimbări sociale, schimbări tehnologice și politici”. (Compania nu folosește nicio măsură de identificare, cum ar fi filigranele, pentru a ajuta oamenii să verifice dacă imaginile sunt reale sau contrafăcute.)

Două modele care lucrează cu Icons8 spun că au aflat abia după ședința foto că portretele lor vor fi folosite pentru imagini generate de AI.

Brown a comentat că primele ședințe foto au fost pentru fotografii stoc și că ideea unei aplicații AI a venit mai târziu, adăugând: „Nu m-am gândit niciodată la asta ca la o problemă”.

Estefania Masera, o modelă în vârstă de 29 de ani din Argentina, spune că ședința foto implică exprimarea diferitelor emoții prin grimase faciale. A fost invitată să pară flămândă, supărată, obosită sau de parcă ar fi aflat că a fost diagnosticată cu cancer. Când examinează unele dintre fețele generate de AI, spune că vede unele asemănări cu ochii ei.

Ea compară software-ul de creare a feței cu sistemele „de design pentru bebeluși” în care părinții își pot alege trăsăturile copiilor. Cu toate acestea, modelul nu este atât de îngrijorat de modul în care tehnologia își va afecta activitatea, lumea va avea în continuare nevoie de modele reale, spune ea.

Acum, tendințele în general și pentru companii și mărci în special trebuie să se străduiască pentru un realism maxim, a adăugat ea.

Simon Lanza, un student în vârstă de 20 de ani, care a participat și la o ședință foto Icons8, spune că înțelege de ce oamenii din industrie sunt îngrijorați.

„Ca model, cred că ar fi nevoie de multă muncă a oamenilor”, a spus el. „Dar nu putem opri viitorul”.