Stoyan Stavrou: Legea trebuie să accepte mănușa pe care tehnologia o aruncă asupra ei

natalie

  • Joaca
  • pauză
  • Stop
  • mut
  • dezactivează sunetul
  • volum maxim

  • Joaca
  • pauză
  • Stop
  • mut
  • dezactivează sunetul
  • volum maxim

Celebrul robot umanoid Sofia, care a vizitat Bulgaria cu ceva timp în urmă, este cetățean al Arabiei Saudite din 2007. În Japonia, un alt robot primește o carte de identitate. Natalie Nevjan își amintește aceste fapte, apărându-și abordarea ferm conservatoare în dezbaterile pe această temă.

Roboții nu au drepturi, spune Natalie Nevjan și reamintește că abia acum ceva timp Parlamentul European a planificat să acorde statut legal roboților autonomi.

Natalie Nevjan face parte dintr-un grup de 285 de avocați, psihologi, medici, filozofi, cercetători din toate domeniile care au scris o scrisoare deschisă pentru a se opune ideii de a da statut legal roboților. În petiția lor, aceștia au subliniat că acordarea statutului legal roboților și sistemelor de inteligență artificială creează un pericol moral inacceptabil.

Roboții sunt imprevizibili?

„Dacă roboții autonomi și inteligența artificială au un statut juridic separat, definiția responsabilității va fi complet schimbată. Răspunderea în cazul deteriorării cauzate de un astfel de dispozitiv nu a putut fi dovedită. Neadevarat! Există reguli în Europa care se aplică acestor cazuri. Și directiva pentru roboții defecți este din 1985. Și acolo puteți specifica care este responsabilitatea utilizatorului și a producătorului. În Franța avem, de exemplu, așa-numitul răspunderea pentru eroare. Noua legislație prevedea ca comportamentul robotului să fie imprevizibil și căuta să transfere responsabilitatea producătorului. Cu toate acestea, există deja norme în UE care obligă producătorul să se asigure că utilajul este sigur. Adică, în UE, nu este permisă vânzarea unei mașini care provoacă daune unei ființe vii. În același timp, mașinile nu sunt imprevizibile ", a spus ea.

„Și dacă există un bug într-un robot care dă pastile unei persoane bolnave, acest lucru trebuie prevăzut. Chiar și faptul că o persoană poate fi ucisă de un robot - cu siguranță acest lucru nu s-ar întâmpla la cererea robotului. Acest lucru se va întâmpla în mod evident din cauza unui defect în proiectarea mașinii ”, a comentat Natalie Nevzhan.

Roboții sunt ca niște cutii - nu au voință sau conștiință, nu suferă și nu au sentimente, subliniază Natalie Nevzhan.

"Roboții sunt mai competenți pentru o anumită sarcină. Pot juca șah, pot prinde o minge și se pot antrena singuri. Dar dacă un robot poate prinde o minge și o jucărie de pluș este aruncată asupra ei, nu o va putea prinde și va trebui să înceapă din nou auto-învățarea. Robotul conceput pentru a avea grijă de un adult se află încă în laboratoare, deoarece este foarte dificil să creezi o mașină care să poată asculta chiar și limbajul uman și apoi să reacționeze și să aibă un comportament adecvat la ceea ce i se spune. Chiar și mersul singur este foarte dificil.

Persoana observă eroarea mașinii

Dacă, la urma urmei, se creează o mașină care are sentimente și dorințe, există riscul de a pune sentimentele și dorințele sale înaintea noastră și atunci ne poate dăuna. Din fericire, o astfel de mașină nu există încă, omul este încă necesar, el poate observa doar momentul în care mașina este greșită, a spus expertul în drept și etică în domeniul inteligenței artificiale Natalie Nevzhan. Cu toate acestea, ea avertizează că omul se îndreaptă din ce în ce mai mult către dorința sa de a umaniza robotul și inteligența artificială.

"Cercetătorii lucrează la empatie și la comunicarea om-mașină, pentru a face robotul acceptabil - dă-i, de exemplu, o față drăguță, pentru că dacă este drăguț și drăguț, vom avea mai multă dorință de a comunica cu el. De asemenea, funcționează cu vocea mașinilor - pentru a fi amabil și blând, pentru a încuraja persoana să vorbească. Există chiar și aparate care fac mici expresii faciale și emit sunete asemănătoare râsului. Conform cercetărilor, acest lucru încurajează subconștient oamenii să vorbească la mașină. Chiar și modul în care sunt rostite cuvintele și viteza cu care sunt rostite contează ”.

Conexiunea dintre om și robot

„Există multe modalități de a crea o dorință într-o persoană de a comunica cu mașina - de exemplu, un robot poate spune„ te iubesc ”,„ ești important pentru mine ”și o persoană care nu este conștientă ar crede că robotul are emoții reale. Iată un exemplu, chiar dacă nu există o față frumoasă. Soldații personifică mașinile. Mai ales cei cu lanțuri care dezamorsează bombele. in orice caz, soldații cred că roboții le salvează viața și le dau numele prietenilor lor. Există chiar și cazuri de înmormântări ale mașinilor, iar unii soldați devin deprimați atunci când robotul cu care lucrează explodează. Acum imaginați-vă reacția unui robot umanoid care vă spune „te iubesc” în fiecare zi. Imaginați-vă un robot care servește o persoană în vârstă sau care îi ține companie. „Ce ar trebui făcut pentru ca oamenii să nu cadă într-o astfel de amăgire?”, Întreabă Nevzhan.

„Deși cercetătorii încearcă să creeze o mașină care să arate ca un om, acest lucru încă nu se poate face. Chiar dacă ne imaginăm că există un sistem în care sunt incluse toate programele software, nu este posibil să creăm conștiință. De aceea sunt împotriva faptului că robotul este tratat ca o persoană juridică. Acest lucru, în opinia mea, înseamnă că este tratat ca o ființă umană. Și apar întrebări despre acordarea drepturilor și asumarea responsabilității. Robotul este incapabil din punct de vedere tehnic de raționament. De unde poate să știe că a provocat un accident?! Acest lucru ar permite producătorului să aibă mai puțină responsabilitate pentru bug-uri, spune Natalie Nevjan.

Natalie Nevjan consideră că este important să ne concentrăm pe problemele etice ale inteligenței artificiale - modul în care noi oamenii vom trăi într-o societate plină de mașini. Ea subliniază, de asemenea, problemele actuale în relațiile interumane și slăbirea legăturilor sociale datorate telefoanelor mobile.

„Oamenii preferă să intre pe rețelele de socializare în loc să comunice cu persoana împotriva lor, în restaurante chiar și cuplurile uneori nu vorbesc între ele”, spune Natalie Nevjan. Ea a spus că problemele legate de drepturile omului sunt mai importante decât discuțiile despre drepturile robotilor.

Roboții nu ar trebui să aibă drepturi

„Probabil vei fi șocat. Dar, în opinia mea, nu ar trebui să existe grupuri de discuții în niciun fel despre drepturile care sunt acordate mașinilor. Pe de o parte, deoarece sunt inconștienți, nu pot și nu ar trebui să aibă drepturi. Dacă ne hotărâm să înființăm astfel de grupuri și să discutăm aceste procese, ar însemna că ne îndreptăm deja spre un acord pe care trebuie să-i recunoaștem drepturile. Vrei încuiați această ușă cât mai bine posibil. Înainte de a discuta despre drepturile roboților și despre inteligența artificială, trebuie să ne gândim la drepturile femeilor, la drepturile minorităților ... Avem atâtea bătălii de dus. De ce să lupți pentru conștiința unei mașini?

Potrivit Natalie Nevzhan, acest lucru ar permite producătorilor să nu își asume nicio responsabilitate pentru ceea ce creează, iar pe o piață globală ar trebui să fie responsabili pentru ceea ce vând.

„De exemplu, mă lupt pentru a crea inteligență artificială care poate fi un instrument, un instrument și folosit de om. Putem avea un robot, de exemplu în spitale, care va permite asistentelor medicale să nu poarte echipamente prea grele, roboți pentru a extrage substanțe chimice în loc de oameni. Vreau ca toate aceste mașini să servească societatea. Să ne ofere ceva, să nu ne îndepărteze de libertatea noastră ”, este categorică Natalie Nevzhan.

Doctorul în drept și filozofie Stoyan Stavrou evidențiază două părți ale problemei drepturilor asupra mașinilor. Unul este psihologic și își are rădăcinile în încercarea producătorilor de a crea o legătură între om și robotul în care omul recunoaște în mașină o „ființă” ca el, cu psihicul, dorințele și temerile sale. Latura juridică este formală - nu are ca scop transformarea robotului într-un subiect moral, ci mai degrabă distribuirea riscului.

Reglementările rămân în urma inovațiilor care se mișcă într-un ritm foarte diferit, a legea este mereu din urmă, recunoaște Stoyan Stavrou, care ar deschide ușa închisă de Natalie Nevjan. Potrivit acestuia, una dintre principalele probleme din tehnologie se bazează pe „predictibilitatea riscurilor pe care le creează”, mai ales atunci când au semnificație socială. Stavrou oferă un exemplu cu un robot care are grijă de vârstnici și subliniază că funcția socială a roboticii este deja în curs de desfășurare și ar necesita reglementare.

„Legea ar trebui să accepte cu siguranță această mănușă aruncată asupra sa de tehnologie”, este convins Stoyan Stavrou.

Care sunt dilemele de acum înainte? Ascultați opiniile din fișierele sonore.