Point de vue | Mise en garde concernant les risques invisibles de l'Intelligence Artificielle Générative. Cette information est uniquement disponible pour les abonnés.
En altérant les informations sur lesquelles un programme d'intelligence artificielle se base, un pirate informatique peut manipuler ses résultats. Sam Curry, qui occupe le poste de vice-président et CISO chez Zscaler, partage ses recommandations pour se prémunir contre de telles attaques.
Les experts de JFrog, une société qui se concentre sur la gestion de logiciels, ont analysé des modèles d'Intelligence Artificielle (IA) et de Machine Learning téléchargés sur Hugging Face récemment. Ils ont identifié environ une centaine de modèles malveillants. Cette mise en lumière souligne un aspect important des problèmes de sécurité informatique : la contamination et la falsification des données.
La manipulation des données pour influencer les modèles d'intelligence artificielle et d'apprentissage automatique est appelée empoisonnement des données. C'est une forme d'attaque peu commune en cybersécurité et peut être difficile à repérer ou à contrer. Il est possible de manipuler les données d'entraînement des modèles de langage à grande échelle, comme ChatGPT, sans avoir besoin de pirater de manière traditionnelle.
Cet article est uniquement disponible pour les abonnés des offres Access et Premium.
Analyse économique et tous les articles sur le patrimoine : l'offre Access est idéale pour vous !
Nos vidéos
Comment The Family a finalement échoué (2/2)
L'impact de The Family sur la start-up nation (1/2)
Les véritables gagnants des paris sportifs en ligne
Les pays du Club Med font leur revanche : Portugal, Espagne, Grèce
Les articles les plus consultés
Pourquoi abroger la réforme des retraites serait risqué
L'immobilisme du système de santé doit prendre fin
Le système fiscal français nuit à la valeur du travail
En première page
Les 5 points essentiels du nouveau cumul emploi-retraite
Mario Draghi appelle à des investissements massifs pour sauver une Europe en crise
Les donations comme solution face à une fiscalité de plus en plus lourde
Dans le Cercle
Faisons de la France la destination privilégiée des étudiants internationaux
Mise en garde contre les dangers de l'IA Générative
L'autonomie, une nouvelle utopie économique
Pratique
P
L'Ensemble
Tous les droits sont protégés – Copyright Les Echos 2024
