Les alertes Apple AI Fake News mettent en évidence le problème de désinformation de la technologie

Une fonctionnalité d’intelligence artificielle sur les iPhones génère de fausses alertes, ce qui soulève des inquiétudes quant à la capacité de la technologie à diffuser des informations erronées.

La semaine dernière, une fonctionnalité récemment lancée par Apple qui résume les notifications des utilisateurs à l’aide de l’IA a supprimé les notifications de l’application BBC News résumées de manière inexacte sur l’histoire du diffuseur sur la demi-finale du Championnat du monde de fléchettes PDC, affirmant à tort que le joueur de fléchettes britannique Luke Littler avait remporté le championnat. .

L’incident s’est produit un jour avant la finale du tournoi, remportée par Littler.

Puis, quelques heures seulement après cet incident, une notification distincte générée par Apple Intelligence, le système d’intelligence artificielle du géant de la technologie, a faussement affirmé que la légende du tennis Rafael Nadal s’était révélée gay.

La BBC essaie d’amener Apple à résoudre le problème depuis environ un mois. La chaîne publique britannique s’est plaint à Apple en décembre après que sa fonction d’intelligence artificielle ait généré un faux titre suggérant que Luigi Mangione, l’homme arrêté après l’assassinat du PDG de la société d’assurance maladie UnitedHealthcare, Brian Thompson à New York, s’était suicidé, mais cela ne s’est jamais produit.

Apple n’était pas immédiatement disponible pour commenter lorsqu’il a été contacté par CNBC. Lundi, Apple a déclaré à la BBC qu’il travaillait sur une mise à jour pour résoudre le problème en ajoutant une clarification indiquant quand Apple Intelligence est responsable du texte affiché dans les notifications. Actuellement, les notifications d’actualités générées semblent provenir directement de la source.

“Les fonctionnalités d’Apple Intelligence sont en version bêta et nous apportons continuellement des améliorations à l’aide des commentaires des utilisateurs”, a déclaré la société dans un communiqué partagé avec la BBC. Apple a ajouté qu’il encourage les utilisateurs à signaler un problème s’ils voient un “résumé de notification inattendu”.

La BBC n’est pas la seule organisation de presse à avoir été affectée par Apple Intelligence en résumant de manière inexacte les notifications d’actualités. En novembre, la fonctionnalité a envoyé une notification récapitulative de l’IA. Affirmer à tort que le Premier ministre israélien Benjamin Netanyahu avait été arrêté..

L’erreur a été signalée sur l’application de médias sociaux Bluesky par Ken Schwencke, rédacteur en chef du site de journalisme d’investigation ProPublica.

CNBC a contacté la BBC et le New York Times pour commenter la solution proposée par Apple au problème de désinformation de sa fonctionnalité IA.

Apple fait la promotion de son Résumés de notifications générés par l’IA comme moyen efficace de regrouper et de réécrire les aperçus des notifications des applications d’actualités en une seule alerte sur l’écran de verrouillage des utilisateurs.

C’est une fonctionnalité Apple. dit est conçu pour aider les utilisateurs à analyser leurs notifications à la recherche de détails clés et à réduire le flot écrasant de mises à jour que connaissent de nombreux utilisateurs de smartphones.

Cependant, cela a conduit à ce que les experts en IA appellent des « hallucinations » : des réponses générées par l’IA qui contiennent des informations fausses ou trompeuses.

“Je pense qu’Apple ne sera pas le seul à avoir des difficultés avec le contenu généré par l’IA. Nous avons déjà vu de nombreux exemples de services d’IA racontant de manière fiable des mensonges, appelés ‘hallucinations'”, a déclaré Ben Wood, analyste en chef du marché. concentré sur la technologie. a déclaré à CNBC la société de recherche CCS Insights.

Dans le cas d’Apple, parce que l’IA essaie de regrouper les notifications et de les condenser pour afficher uniquement un résumé de base des informations, elle a mélangé les mots d’une manière qui caractérise de manière inexacte les événements, mais les présente avec assurance comme des faits.

“Apple a eu la complexité supplémentaire d’essayer de compresser le contenu en résumés très courts, ce qui a fini par transmettre de mauvais messages”, a ajouté Wood. “Apple va sans aucun doute essayer de résoudre ce problème le plus rapidement possible, et je suis sûr que ses concurrents suivront de près pour voir comment il réagira.”

L’IA générative fonctionne en essayant de trouver la meilleure réponse possible à une question ou à un message inséré par un utilisateur, sur la base de grandes quantités de données sur lesquelles ses grands modèles linguistiques sous-jacents sont formés.

Parfois, l’IA ne connaît pas la réponse. Mais comme il a été programmé pour toujours présenter une réponse aux invites de l’utilisateur, cela peut entraîner des cas où l’IA ment réellement.

On ne sait pas exactement quand la résolution par Apple du bug dans sa fonction de résumé de notification sera corrigée. Le fabricant d’iPhone a déclaré qu’il s’attend à ce qu’un iPhone arrive dans « les semaines à venir ».