Le célèbre chatbot conversationnel ChatGPT est dans le viseur des autorités publiques.
Il fallait bien que cela arrive.
Le plus grand succès technologique de ces derniers mois qui vient de recevoir une mise à jour avec le nouveau modèle de language GPT-4 connaît ses premiers couacs.
ChatGPT persona non grata à Montpellier
Tout d’abord, c’est la ville de Montpellier qui a interdit l’accès à l’intelligence artificielle du moment à ses employés. Il s’agit d’une décision prise par précaution et à titre conservatoire. L’interdiction est étendue aux partenaires de la Mairie pour éviter les risques de fraude.
Si l’adjoint au maire Manu Reynaud considère cette technologie comme révolutionnaire, il estime que nous n’avons pas encore suffisamment de recul quant à ses conséquences. Se pose notamment le problème de l’utilisation de nos données personnelles.
ChatGPT inaccessible sur tout le territoire italien
La nouvelle a fait l’effet d’une bombe : la GPDP, l’Autorité nationale de protection des données personnelles d’Italie (l’équivalent de notre CNIL, la Commission Nationale de l’Informatique et des Libertés) a imposé une limitation temporaire immédiate au traitement des données des utilisateurs italiens par OpenAI avec pour effet le blocage de l’accès à l’application.
En effet, l’Autorité considère que ce traitement viole la législation sur la protection des données personnelles. Il est notamment reproché à Open AI de ne fournir aucune information aux utilisateurs et aux personnes quant à l’utilisation de leurs données. En outre, il n’existe aucune base juridique justifiant la collecte et le traitement massifs de données à caractère personnel.
À cela s’ajoute le fait que les réponses données par ChatGPT peuvent s’avérer fausses, ce qui implique que des données personnelles inexactes sont utilisées.
Par ailleurs, la GDPD pointe du doigt l’absence de tout mécanisme de vérification de l’âge. Les enfants utilisant le service sont donc exposés à de possibles réponses inappropriées.
La société OpenAI doit répondre dans un délai de 20 jours à l’organisme italien et indiquer les mesures prises pour se conformer à sa décision, faute de quoi elle encourt une amende pouvant atteindre 20 millions d’euros ou 4 % du chiffre d’affaires annuel mondial total pourra lui être infligée.
Une amende qui fait quand même peur, mais abusée non ?