Le nouveau logiciel open source de NVIDIA est conçu pour empêcher l'IA de déclarer des faits incorrects et d'autres erreurs.
La technologie artificielle est incroyablement polarisée alors que de plus en plus de plus grandes entreprises mondiales continuent d’y investir de l’argent et des ressources. L’une des nombreuses préoccupations concernant l’IA est sa propagation potentielle de fausses informations et sa menace globale pour la sécurité. NVIDIA défend depuis longtemps une position favorable à l'IA et a maintenant introduit NeMo Guardrails, un nouveau logiciel open source qui cible certains des problèmes persistants les plus importants liés aux services d'IA.
NVIDIA a annoncé NeMo Guardrails dans un article d'actualité surson site internetaujourd'hui. NVIDIA a divisé les garde-corps en trois fonctions principales : sûreté, sécurité et actualité. Les garde-fous de sécurité empêcheront l’IA de fournir aux utilisateurs des informations inexactes. Plus particulièrement, l'IA Bing de Microsoft, tristement célèbrea fourni la mauvaise réponse à une requête dans une démo de février, créant encore plus d’incertitude autour de la technologie de l’IA.
Source : AP
Les garde-fous de sécurité « restreindront les applications à établir des connexions uniquement avec des applications tierces externes connues pour être sûres », indique NVIDIA. Enfin, Topical Guardrails empêchera une IA de répondre à des questions qui ne sont pas pertinentes pour son service. L'exemple donné est qu'une IA travaillant dans le service client ne répondra pas à une question sur la météo.
Le PDG de NVIDIA, Jensen Huang, est depuis longtemps un partisan de l'intelligence artificielle, bien avant que le boom de ChatGPT n'allume le feu de l'IA sous les fesses des plus grandes entreprises mondiales. En février, il a déclaré que la technologie étaità un « point d’inflexion ».NVIDIA a également utilisé l'IA dans certains de ses propres produits et services, tels que NVIDIA Broadcast et DLSS.
Avec l'arrivée des NeMo Guardrails de NVIDIA, il sera intéressant de voir comment la technologie est appliquée aux services d'IA. Nous sommes également curieux de voir quels autres logiciels ou produits adjacents à l'IANvidiapourrait être introduit plus tard. Pour en savoir plusIAet sa mise en œuvre dans les industries de la technologie et du jeu, Shacknews a tout ce que vous devez savoir.
Rédacteur en chef des actualités
Donovan est un journaliste du Maryland. Son plus ancien souvenir de jeu est celui de jouer à Pyjama Sam sur le bureau de sa mère le week-end. Pokémon Emerald, Halo 2 et le premier Star Wars Battlefront 2 ont été parmi les titres les plus influents qui ont éveillé son amour pour les jeux vidéo. Après avoir effectué un stage chez Shacknews tout au long de ses études universitaires, Donovan est diplômé de la Bowie State University en 2020 avec une spécialisation en journalisme audiovisuel et a rejoint l'équipe à temps plein. C'est un grand fanatique de cinéma et il parlera avec vous de films et de jeux toute la journée. Vous pouvez le suivre sur Twitter@Donimals_
