À la une Inceptive au Forum IT d’Abicom, le 26 novembre à Saint-Étienne
contactez-nouscontact

/veille

Sécurité de l’IA

Ce qui casse quand l’IA passe en production

La sécurité de l’IA : incidents, failles, attaques et controverses, des systèmes en service aux entreprises qui les fabriquent.

/48 heures

5 informationsmise à jour à flux RSS

Les informations des 48 dernières heures

  1. Des chatbots s’appuient sur trois sites électoraux obscurs créés par IA pour répondre sur les élections de mi-mandat américaines (nouvel onglet)

    Selon des tests du Washington Post, Copilot a cité Ballot Brief, un site sujet aux erreurs, dans 75 % des tests, et ChatGPT dans 22 %. Ces assistants conversationnels puisent ainsi dans des sites peu connus, bâtis avec l’IA.

    Washington Post (via Techmeme)

  2. Des chercheurs ont exploité une faille dans les aperçus HTML de ChatGPT pour prendre le contrôle de comptes (nouvel onglet)

    Parameter Labs décrit une attaque contre les aperçus HTML de ChatGPT, qui affichent de petites applications dans un cadre isolé. Cet isolement doit empêcher du code non fiable d’accéder aux données privées. La chaîne d’attaque est complexe.

    Simon Willison's Weblog (Simon Willison)

  3. Anthropic étend le marquage de ses textes à quatre autres modèles Claude, contournable sur deux anciens modèles (nouvel onglet)

    Anthropic étend son filigrane de texte, une marque invisible signalant qu’un texte vient d’une IA, à quatre modèles Claude supplémentaires. Sur Claude Opus 4.6 et Sonnet 4.6, un léger changement des paramètres de génération suffit à contourner la marque.

    The Decoder

  4. OpenAI veut entraîner ses modèles avec des données de cybersécurité, des chercheurs en sécurité protestent (nouvel onglet)

    OpenAI prévoit d’utiliser à partir du 29 novembre les données des sessions Daybreak Blue pour entraîner ses modèles, même si l’utilisateur a désactivé l’entraînement. Un second courriel reconnaît une confusion et promet une option de refus distincte.

    The Decoder

  5. Un nouveau logiciel malveillant, Volta-Autodoxer, utilise l’IA pour collecter les données de ses victimes, identifiants et cartes bancaires compris (nouvel onglet)

    Titre seul, à lire chez Wired

Réalisé par IA à partir des sources citées.flux RSS

/garde-fous

Des systèmes testés, puis surveillés en service.

Injection de consignes (prompt injection), fuite de données, réponses inventées : ces risques se testent avant la mise en service, puis se surveillent. Nos ingénieurs le font pour chaque système qu’ils construisent et maintiennent.

MLOps

/dans cette rubrique

  • Veille L’actualité de l’IA, vérifiée à la source
  • Semaines Les dix informations les plus reprises de chaque semaine
  • Modèles Les nouveaux modèles et leurs mises à jour
  • Produits Les lancements de produits et de fonctions d’IA
  • Recherche Les travaux des laboratoires et les articles scientifiques
  • Usages L’IA dans les entreprises et les administrations
  • Marché Financements, rachats, partenariats et nominations
  • Infrastructures Puces, centres de données et énergie
  • Réglementation Lois, politiques publiques et procès
  • Société Travail, emploi, opinion et études

/contact

Travaillons ensemble

Découvrez comment Inceptive peut vous aider à transformer votre activité et à résoudre des problématiques opérationnelles complexes grâce à l’intelligence artificielle.

contactez-nous