27 articles — 27 affichés
OpenAI collabore avec le laboratoire national de Los Alamos pour développer des méthodes d’évaluation de la sécurité des IA avancées, notamment pour mesurer leurs capacités et risques biologiques.
OpenAI et Anthropic révèlent les résultats d'une collaboration unique pour tester la sécurité de leurs modèles d'IA, mettant en lumière progrès, défis et importance du travail croisé. Une première mondiale aux implications majeures pour la France.
Les dernières mises à jour des modèles Opus 4.7 et GPT-5.5 introduisent des avancées techniques tout en augmentant leurs tarifs. En parallèle, Claude Mythos et ChatGPT Images 2.0 marquent des évolutions notables dans la recherche sur la sécurité des LLM et la génération d'images.
OpenAI dévoile un cadre inédit pour régir les systèmes d'intelligence artificielle agentiques, capables d'agir de manière autonome. Ce document établit des principes clés pour garantir contrôle, responsabilité et sécurité dans un contexte d'IA toujours plus proactive.
OpenAI introduit deux nouvelles fonctionnalités majeures dans ChatGPT : le Lockdown Mode et les labels Elevated Risk, visant à contrer les injections de prompts et les fuites de données par IA. Cette avancée améliore significativement la défense des organisations face aux menaces émergentes.
OpenAI annonce la fin de la liste d’attente pour accéder à son API, facilitant ainsi l’intégration des modèles d’IA dans les applications. Cette ouverture est rendue possible grâce à des progrès significatifs en matière de sécurité et de régulation d’usage.
OpenAI dévoile ses dernières avancées pour protéger les utilisateurs de ChatGPT via des garde-fous améliorés, la détection des usages abusifs et une collaboration étroite avec des experts en sécurité. Ces innovations promettent une expérience plus sûre et fiable.
OpenAI présente une nouvelle orientation pour ChatGPT, conçu pour être utile, fiable et adaptable. L’accent est mis sur la liberté intellectuelle, permettant aux utilisateurs de personnaliser leur expérience tout en garantissant la sécurité.
OpenAI annonce une collaboration approfondie avec les agences américaines CAISI et britanniques AISI pour développer des systèmes d'IA plus sûrs et résilients. Cette initiative s'inscrit dans un contexte mondial de régulation et de sécurité renforcée des intelligences artificielles.
OpenAI dévoile sa stratégie inédite pour adapter ses modèles d'IA à chaque langue, culture et cadre légal, garantissant une expérience localisée sans compromis sur la sécurité ni la performance.
OpenAI déploie un défi de red-teaming pour GPT-5.5, visant à détecter des jailbreaks universels liés aux risques biosécurité. Les chercheurs peuvent remporter jusqu'à 25 000 dollars en identifiant ces failles critiques.
Face aux risques grandissants de manipulation malveillante dans des secteurs critiques, Google DeepMind publie une étude approfondie et annonce des protocoles innovants pour renforcer la sécurité des intelligences artificielles.
OpenAI souligne l'importance cruciale des sciences sociales dans la recherche sur la sécurité à long terme de l'IA. L'intégration de psychologues et sociologues vise à mieux comprendre la rationalité humaine et ses biais, pour aligner efficacement les systèmes avancés d'IA sur les valeurs humaines.
OpenAI, Google, Microsoft et Anthropic annoncent la nomination d'un directeur exécutif pour le Frontier Model Forum et la création d'un fonds de 10 millions de dollars dédié à la sécurité de l'IA. Cette initiative vise à structurer une gouvernance responsable des modèles de pointe.
OpenAI lance ChatGPT Agent, un modèle agentique combinant recherche, automatisation de navigation web et outils de programmation, encadré par un cadre de sécurité inédit. Une avancée majeure pour l’IA autonome accessible aux développeurs.
OpenAI publie une étude pionnière sur les risques de capacités exacerbées des grands modèles de langage open-weight, notamment dans les domaines sensibles de la biologie et la cybersécurité, grâce à une technique de fine-tuning malveillant.
OpenAI déploie une fonctionnalité innovante de prédiction d’âge et de contrôle parental dans ChatGPT, visant à garantir des expériences adaptées aux adolescents tout en offrant aux familles des outils de gestion inédits.
OpenAI dévoile gpt-oss-safeguard, une série de modèles de raisonnement open-weight dédiés à la classification de sécurité. Cette innovation permet aux développeurs d'appliquer et d'affiner des politiques sur mesure, renforçant la maîtrise et la transparence dans la modération des contenus générés par IA.
OpenAI s'oppose à la requête du New York Times exigeant l'accès à 20 millions de conversations privées de ChatGPT. La société déploie également des mesures renforcées pour protéger la confidentialité des utilisateurs, soulignant les enjeux cruciaux de la sécurité des données dans l'ère de l'IA.
OpenAI dévoile des mesures inédites pour protéger les données utilisateurs quand ses agents IA naviguent sur internet, empêchant exfiltration et injections malveillantes. Un pas crucial vers une interaction plus sûre entre intelligence artificielle et navigation web.
OpenAI annonce un financement de 7,5 millions de dollars destiné à The Alignment Project, une initiative indépendante dédiée à la sécurité et à l’alignement des intelligences artificielles avancées. Cette démarche s’inscrit dans un contexte mondial croissant d’inquiétudes sur les risques liés à l’AGI.
OpenAI lance un cadre inédit pour aider les développeurs à modérer les risques liés à l'usage de l'IA par les adolescents, via sa nouvelle politique de sécurité intégrée à gpt-oss-safeguard. Une avancée majeure pour encadrer les expériences IA adaptées aux jeunes publics.
OpenAI inaugure un programme Safety Bug Bounty pour identifier et corriger les vulnérabilités critiques liées à l’IA, notamment les injections de prompt et les risques d’exfiltration de données. Cette initiative vise à renforcer la sécurité des modèles d’IA face à des usages malveillants.
OpenAI dévoile un nouveau paradigme de formation de sécurité pour GPT-5, passant des refus catégoriques à une approche nuancée centrée sur la qualité des réponses. Cette innovation promet une meilleure gestion des requêtes à double usage, conciliant sécurité et utilité.
OpenAI et Microsoft ont officialisé un nouvel accord de collaboration visant à approfondir leur engagement commun en matière d'innovation et de sécurité dans l'intelligence artificielle. Cette alliance promet de consolider les avancées technologiques tout en répondant aux enjeux cruciaux de régulation et d’éthique.
OpenAI publie une mise à jour détaillée du modèle GPT-5.2, qui améliore la sécurité tout en s’appuyant sur une diversité accrue de données. Retour sur les mécanismes et enjeux d’un modèle d’IA toujours plus robuste et responsable.
Google DeepMind intensifie son partenariat avec l’UK AI Security Institute afin de conduire des recherches cruciales sur la sécurité et la sûreté des intelligences artificielles. Cette alliance vise à anticiper et maîtriser les risques liés aux systèmes d’IA avancés.
ChatGPT, Anthropic, startups, Big Tech — tout ce qui compte dans l'IA et la tech, chaque matin.
+4 200 supporters déjà abonnés · Gratuit · 0 spam
