Ministrul AI al Canadei acuză OpenAI de „eșec” după un atac armat
Guvernul liberal al Canadei a anunțat că este pregătit să introducă reglementări pentru chatboții AI dacă companiile de tehnologie, precum OpenAI, nu pot demonstra că au implementat măsuri de siguranță pentru a proteja utilizatorii canadieni. Această declarație vine în urma unei tragedii care a avut loc în Tumbler Ridge, Columbia Britanică, unde, conform autorităților, un utilizator canadian ChatGPT a provocat un atac armat soldat cu opt morți.
Ministrul AI, Evan Solomon, a explicat că „fără îndoială, a avut loc un eșec”, menționând impactul devastator al incidentului și exprimându-și îngrijorarea față de lipsa unei reacții din partea OpenAI în fața unei situații care ar fi putut necesita escaladarea la autoritățile competente. „Am fost profund deranjați de informațiile conform cărora ar fi existat oportunitatea de a alerta forțele de ordine, și dorim să ne asigurăm că orice companie întâmpină astfel de situații, le va raporta urgent,” a adăugat el.
Reprezentanții OpenAI, inclusiv Chan Park, liderul departamentului de politică al companiei, s-au întâlnit marți cu miniștri din cabinetul prim-ministrului Mark Carney la Ottawa, o întâlnire care a fost descrisă ulterior de miniștri ca fiind „decepționantă”. Ministrul Justiției, Sean Fraser, a afirmat că OpenAI trebuie să revină cu propuneri substanțiale pentru măsuri de siguranță. „Mesajul nostru a fost foarte clar, așteptăm modificări concrete,” a declarat Fraser pentru jurnaliști, subliniind că dacă OpenAI nu va acționa rapid, guvernul va lua măsuri.”
Solomon a menționat că „toate opțiunile sunt pe masă”, fără a specifica dacă aceasta include interzicerea OpenAI în Canada, așteptând să vadă ce soluții va propune compania. „Încrederea va trebui să fie câștigată,” a conchis Fraser, evidențiind importanța transparenței și a colaborării în viitor.
OpenAI, cunoscut pentru chatbot-ul său popular ChatGPT, a afirmat că a întărit măsurile de protecție și a revizuit liniile directoare referitoare la momentul în care ar trebui să se notifice autoritățile în cazuri de activitate violentă. „Miniștrii au subliniat că canadienii așteaptă în continuare acțiuni concrete, iar am înțeles acest mesaj perfect,” a declarat un purtător de cuvânt al OpenAI.
Compania a interzis contul lui Jesse Van Rootselaar, utilizatorul acuzat de comiterea atacului, menționând că acesta a fost identificat prin sistemele sale de monitorizare, care utilizează atât instrumente automate, cât și revizuiri umane pentru a detecta posibile utilizări abuzive legate de violență. Totuși, OpenAI a considerat că cazul lui Van Rootselaar nu a întrunit criteriile pentru a fi raportat la poliție, fiind lipsit de un risc iminent și credibil de vătămare fizică gravă pentru alții.
În perioada următoare, Solomon intenționează să adreseze aceste întrebări dezvoltatorilor de chatboți AI și platformelor digitale. „Siguranța publică va fi întotdeauna prioritatea acestui guvern,” a afirmat el în încheiere.
