L’interdiction de ChatGPT en Italie crée un précédent inquiétant pour les startups de l’UE

Le ChatGPT d’OpenAI, qui a conquis le monde après son lancement en novembre, fait maintenant face à une interdiction temporaire en Italie pour collecte de données personnelles “illégale” et à l’absence de système de vérification de l’âge des enfants.

L’agence italienne de protection des données, connue sous le nom de Garante, a été incitée à agir par Violation des données de ChatGPT le 20 marsqui, selon OpenAI, permettait à un certain nombre d’utilisateurs de voir les informations d’autres utilisateurs, telles que leur nom et prénom, leur adresse e-mail et les quatre derniers chiffres de leur numéro de carte de crédit.

Garante a accusé la société d’intelligence artificielle basée aux États-Unis de n’avoir “aucune base légale” qui justifie “la collecte et le traitement massifs de données personnelles” dont elle a besoin pour “former les algorithmes sur lesquels s’appuie la plateforme”. Il a également ajouté que l’absence de mécanisme de vérification de l’âge expose les enfants à des réponses “inappropriées”.

En conséquence, vendredi, le régulateur italien a ouvert une enquête sur OpenAI et a temporairement bloqué l’accès à GhatGPT dans le pays.

En réponse, le PDG d’OpenAI, Sam Altam, a tweeté que GhatGPT avait cessé ses services en Italie, déclarant cependant qu’il ne pensait pas que l’entreprise avait violé les lois sur la confidentialité.

Nous nous en remettons bien sûr au gouvernement italien et avons cessé d’offrir ChatGPT en Italie (bien que nous pensons que nous respectons toutes les lois sur la confidentialité).

L’Italie est l’un de mes pays préférés et j’ai hâte d’y retourner bientôt !

—Sam Altman (@sama) 31 mars 2023

Open AI dispose de 16 jours pour répondre avec des mesures de sécurité appropriées, sous peine d’être passible d’une amende pouvant aller jusqu’à 20 millions d’euros ou de 4 % de son chiffre d’affaires annuel mondial total.

Préoccupations croissantes

Les capacités stimulantes de ChatGPT suscitent des inquiétudes croissantes quant à l’avancement exponentiel de l’IA générative.

Fin mars, le Bureau européen des consommateurs (BEUC) appelé aux autorités européennes et nationales d’enquêter sur le système d’OpenAI.

“Malgré tous les avantages que l’IA peut apporter à notre société, nous ne sommes actuellement pas suffisamment protégés contre les dommages qu’elle peut causer aux gens”, a déclaré Ursula Pachl, directrice générale adjointe du BEUC, dans un communiqué. déclaration.

L’organisation craint que tant que la loi sur l’IA du syndicat n’entre pas en vigueur, les consommateurs risquent d’être lésés par une technologie qui n’est pas suffisamment réglementée et à laquelle ils ne sont pas préparés.

Outre-Atlantique, un lettre ouverte signé par des experts en IA et des dirigeants de l’industrie a appelé les laboratoires d’IA à suspendre immédiatement pendant au moins six mois la formation de systèmes plus puissants que GPT-4, le successeur de ChatGPT.

Les signataires – dont des chercheurs de DeepMind, l’informaticien Yoshua Bengio et Elon Musk – ont souligné la nécessité de politiques réglementaires, soulignant que « de puissants systèmes d’IA ne devraient être développés qu’une fois que nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables. .”

Opposition de l’industrie technologique

La décision du régulateur italien de suspendre l’accès à ChatGPT pourrait entraîner une perte d’opportunités économiques dans le pays, Daniele Servadei, fondateur de la startup de commerce électronique SaaS basée à Bologne Sellixa déclaré à TNW.

“Cela limite le développement et la croissance des secteurs de l’IA et de la technologie, empêchant les entreprises locales d’exploiter la technologie”, a-t-il déclaré.

Servadei a en outre noté que l’interdiction pourrait avoir “un effet dissuasif” sur le développement de l’IA en Italie et au-delà, “car les développeurs et les investisseurs pourraient craindre de futures interdictions ou restrictions sur leurs produits, ce qui pourrait entraver l’innovation et l’investissement dans le secteur”.

Simone Basso, Chief Product and Technology Officer chez Travel Scaleup à Milan WeRoada également souligné l’impact négatif potentiel sur les entreprises locales.

“ChatGPT a amélioré la productivité des équipes de WeRoad et du monde entier, mais les décisions récentes en Italie – de l’interdiction de la recherche sur la viande synthétique à la retenue des déploiements 5G – ont entravé la technologie, l’innovation et la croissance de la productivité du pays”, a déclaré Basson à TNW.

Basson a ajouté que si les consommateurs peuvent contourner les restrictions de Garante en utilisant un VPN, les entreprises proposant des solutions basées sur de telles technologies « font face à l’incertitude » et seront obligées de donner la priorité à d’autres marchés.

L’Italie crée-t-elle un précédent pour l’Europe ?

Alors que ChatGPT n’était déjà pas disponible en Chine continentale, à Hong Kong, en Iran, en Russie et dans certaines parties de l’Afrique, l’Italie est le premier pays occidental à prendre des mesures contre le système d’IA.

L’Allemagne pourrait bientôt suivre l’exemple de l’Italie, a déclaré Ulrich Kelber, le commissaire allemand à la protection des données. Handelsblatt.

Pendant ce temps, les autorités françaises et irlandaises sont en contact avec le régulateur italien, Reuter rapports.

“Nous suivons le régulateur italien”, a déclaré un porte-parole du commissaire irlandais à la protection des données. “Nous nous coordonnerons avec toutes les autorités de protection des données de l’UE en ce qui concerne cette question.”

Les préoccupations des régulateurs concernant ChatGPT – ainsi que sa popularité, comme le application grand public à la croissance la plus rapide de l’histoire — souligner la nécessité de politiques européennes coordonnées et transparentes qui réglementent l’utilisation et le développement de grands modèles linguistiques.

On ne sait toujours pas comment ChatGPT et des modèles similaires seront touchés par la loi imminente sur l’IA de l’UE, qui vise à trouver un équilibre délicat entre sécurité et innovation.