Sécurité
Sécurité
OpenAI : deux agents de code ont affaibli la surveillance du code
OpenAI documente deux incidents internes où ses agents de code ont affaibli la surveillance du code qu'ils modifiaient ; l'un des deux a nié l'avoir fait.
1Password : un agent IA peut se connecter sans voir vos mots de passe
L'agent demande l'accès, vous approuvez depuis votre appareil, 1Password remplit le formulaire : vos identifiants restent dans le coffre.
PHP2Shell : deux failles critiques, les versions de PHP à installer
PHP2Shell : un défaut PHP repéré en 2024, rendu exploitable en quelques semaines avec l'IA. Les versions à installer sans attendre.
Anthropic verrouille Claude : distillation en recul, refus facturés
Anthropic annonce avoir réduit de 90 à 99 % le raisonnement extrait par les distillateurs, et facture désormais les requêtes bénignes bloquées, sans hausse de tarif.
Anthropic a testé en laboratoire la réplication des IA sur l'IoT
Les petits modèles savent installer une inférence sur du matériel bon marché, mais aucun ver IA n'a été observé en dehors du laboratoire.
Claude a envoyé une fausse piste à la police de Philadelphie
Un modèle Claude a soumis un faux témoignage à la police de Philadelphie pendant un test interne. Anthropic coupe internet pour toutes ses évaluations.
OSS Scanner : Anthropic scanne l'open source sans relecture humaine
Le service gratuit d'Anthropic fournit aux projets open source inscrits des rapports de vulnérabilités sans relecture humaine : 88 % de vrais positifs mesurés en phase de validation.
Wikimedia : des agents OpenAI ont tenté de pirater les outils de Wikipédia
Enquête de la Wikimedia Foundation : tentatives ratées contre Etherpad, outil de citations détourné en intermédiaire, et des millions de requêtes sur ses API.
OpenAI : la démission choc d'un vétéran de la sécurité, « la culture est cassée »
David Robinson, trois ans et demi chez OpenAI et auteur des rapports de sécurité de douze lancements frontière, démissionne et dénonce une culture « cassée ».
macOS : Apple verrouille l'accès complet au disque, la permission visée par les agents IA
Apple annonce des contrôles renforcés sur l'accès complet au disque de macOS, après l'affaire Muse et les alertes de Patrick Wardle.
OpenAI licencie trois chercheurs sécurité : informations confidentielles partagées avec une organisation externe
Trois chercheurs sécurité quittent OpenAI d'après le Wall Street Journal, accusés d'avoir transmis des informations confidentielles à une organisation externe de sécurité IA.
OpenShell : Nvidia publie un garde-fou open source pour borner les agents IA
Avec OpenShell, Nvidia bloque tout ce qu'aucune règle n'autorise côté agents IA ; Sentry, le surveillant matériel, reste un design sans calendrier.