Microsoft suggère aux utilisateurs d'outils d'IA d'être conscients de la possibilité que l'IA donne des réponses incorrectes et de les modifier.
Lors d'une présentation en ligne décrivant les fonctionnalités de Copilot, la nouvelle technologie de chat basée sur l'IA de Microsoft pour les applications Office telles que Powerpoint, Teams et Outlook, la société a abordé les problèmes précédents de l'IA en fournissant des réponses incorrectes. Par exemple, en février, lorsque Microsoft a lancé une démo de son outil de chat Bing créé à l'aide d'OpenAI, il y a eu des cas où il s'est avéré qu'il donnait des réponses incorrectes.
Comme le rapporte CNBC, les chercheurs ont commencé à qualifier ce phénomène observé avec l’IA d’« hallucination ». C’est certainement une façon intéressante de le décrire. Cependant, Microsoft est récemment allé plus loin en décrivant ces réponses incorrectes comme étant « utilement fausses ». Microsoft a également souligné que, tant que les gens sont conscients du potentiel de Copilot à fournir des réponses inexactes, ils peuvent les modifier tout en continuant à utiliser les outils pour envoyer rapidement des e-mails ou terminer des diapositives de présentation.
« Par exemple, si une personne souhaite créer un e-mail souhaitant un joyeux anniversaire à un membre de sa famille, Copilot peut toujours être utile même s'il présente une date de naissance erronée. Selon Microsoft, le simple fait que l'outil génère du texte fait gagner du temps à une personne et est donc utile. Les gens doivent juste faire très attention et s'assurer que le texte ne contient aucune erreur.le rapport CNBC explique.
CNBC cite également que le scientifique en chef de Microsoft, Jaime Teevan, avait précédemment assuré que Microsoft avait mis en place des « atténuations » lorsque Copilot se trompait, avait des préjugés ou était utilisé à mauvais escient. "Nous allons faire des erreurs, mais lorsque nous le ferons, nous les corrigerons rapidement", a déclaré Teevan.
Il sera intéressant de voir comment Microsoft fonctionne autour de l'IA susceptible de fournir des informations inexactes et de commettre des erreurs. Il est cependant agréable d'entendre que Microsoft est conscient du problème et s'efforce de le résoudre.
Pour en savoir plus sur les projets de Microsoft dans le domaine de l'IA, assurez-vous de consulter notre couverture précédente, notammentMicrosoft présente son outil Office 365 Copilot AIlors de sa présentation sur l'IA, et commentBing limite le chat AI à cinq réponsespour éviter de longues conversations étranges.
Morgan est un écrivain originaire des terres gelées du Maine qui aime la musique metal, la kpop, l'horreur et les jeux indépendants. C'est aussi un fanatique de Tetris qui est extrêmement compétitif dans des jeux comme Tetris 99... et dans tous les jeux en général. Mais surtout Tetris. Vous pouvez suivre Morgan sur Twitter@Auteur_MShaver.
