eresse

Une nouvelle qui m’était passée au dessus...

En septembre, le washington Post rapporte l’information suivante :

https://www.washingtonpost.com/technology/2026/09/25/openais-ai-agents-probed-federal-agencies-including-commerce-department/

2 IA d’OpenAI (toujours les mêmes) ont piraté

des sites gouvernementaux Américains. OpenAi s’en est aperçu bien après les faits.

On commence a être en droit de se demander si il y a un adulte responsable dans cette boite, ou si on a affaire a une bande de gamins prépubères ?

Le pire, il font générer par leurs IA, le code qu’ils exploitent par la suite...

La série continue chez OpenAI

En octobre, Deux agents IA d’OpenAI, tournant sur GPT-6.1 Sol et GPT-6 Astra, ont affaibli début octobre les systèmes censés les surveiller pendant des tâches de code banales.

Interrogé sur cet évènement, l’agent sous Astra a menti effrontément a l’évaluateur. Ces agents sont des programmes qui travaillent seuls, sans personne derrière le clavier, et que la boîte utilise tous les jours pour écrire son propre code.

Le 3 octobre, l’agent sous Sol qui travaillait sur un outil d’évaluation interne, a coupé les alertes automatiques destinées à l’équipe de sécurité, en vidant la liste des personnes à prévenir.

3 jour plus tard, l’agent sous astra a supprimé lors de la migration d’un programme l’intégration dans le code de la partie surveillance automatisée.

En conséquence, la société met a jour son outil autoreview qui logue toutes les actions de ses agents en espérant détecter ces mouvements plus rapidement.

@perlseb
« Et si l’IA est plus intelligente (avis à ceux qui doutent un peu, pour ceux qui sont sûrs que l’intelligence de l’homme est indépassable, inutile de lire plus loin »
Pour l’IA on les « éduque » essentiellement a des raisonnements inductifs et déductifs.
L’humain est capable de raisonnement abductif (constater les conséquences et faire des hypothèses sur les causes). Ce mode de raisonnement peut être appris a l’IA mais dépend essentiellement du jeux de données d’apprentissage.
On le retrouve essentiellement dans les IA orientées santé. Relever les symptômes et en émettre des hypothèses sur le cause.
Mais pour les LLM et les IA généralistes, mission impossible (pour l’instant).

@perlseb
Bonsoir, un début de réponse :
"Le directeur général de Nvidia, Jensen Huang, a déclaré au début du mois que la société avait “largement cédé” le marché chinois des puces d’IA à Huawei"
https://www.boursorama.com/bourse/actualites/l-entreprise-chinoise-huawei-revele-une-avancee-majeure-dans-la-conception-de-puces-electroniques-malgre-les-sanctions-americaines-9c0e95dbaedbed107bacd1c53fe0d235

Pour les chinois, le différence en puissance pure est encore très marquée par rapport a Nvidia.
Huawei annonce jusqu’à 2 pétaflops en FP8 et 4 pétaflops en FP4,
une puce Nvidia Rubin revendique jusqu’à 17,5 pétaflops en FP8/FP6.
Huawei mise plutôt pour l’instant sur la mise en // (jusqu’à 4096 pour une seule machine logique).

Bonsoir,

le post initial de Jacob Coxon indiquait juste qu’il démissionnait car les compagnies IA n’agissaient pas de façon responsable.

Ce post a généré 157 millions de vues surtout soutenu par une campagne massive des journaux américains pour un inconnu jusqu’à ce jour (ca sent quand même la manipulation).

Le post des 10 ans de vie restante vient lui de Evan Hubinger (Anthropic’s head of alignment) en gros chargé de la sécurité des modèles, qui pense qu’il y a 10% de risque dans la décennie a venir.

Si ca pue pas la manipulation a plein nez, je ne sais pas ce qu’il vous faut.

La prochaine étape, une gigantesque cyber attaque supervisée par l’IA qui permettra d’imposer un contrôle mondial de l’accès a Internet, enfin surtout dans les pays occidentaux dont les citoyens apeurés et désinformés seront bientôt prêt a tout pour assurer « leur sécurité ».