Sam Altman dit que tout automatiser serait « insatisfaisant » et « dangereux »

• Les principaux dirigeants d’OpenAI déclarent qu’ils ne veulent pas d’un avenir où tout est automatisé.

• Sam Altman et Jakub Pachocki affirment que l’IA rend le rôle d’application du jugement humain plus important.

• Cela survient alors que l’IA artificielle est la plus grande expression à la mode dans le domaine de la technologie et des affaires.

OpenAI dit qu’un monde où tout est automatisé sera dangereux.

Lundi, dans un article de blog, le PDG Sam Altman et le scientifique en chef d’OpenAI, Jakub Pachocki, ont déclaré qu’ils étaient « très clairs sur les risques » de l’IA, malgré les avantages en termes de productivité qu’elle apporte.

“Tout automatiser complètement n’est pas l’avenir que nous souhaitons”, a écrit le duo dans le message. “Cela ne sera pas réalisé et ce sera dangereux.”

Ils affirment que les systèmes d’IA doivent rester sécurisés et soumis au contrôle humain. Et à mesure que les systèmes d’IA deviennent plus performants, le rôle des humains « fixer l’orientation, faire des compromis, appliquer son jugement et apporter de la valeur, du sens, de l’attention et de la responsabilité au travail » deviendra plus important.

L’IA agentique (des systèmes d’IA qui exécutent des tâches et des flux de travail avec une intervention humaine minimale) est aujourd’hui le mot à la mode dans la technologie et les affaires.

Anthropic et OpenAI tentent d’amener l’entreprise à se connecter à des comptes d’entreprise pour les plateformes de codage Claude Code et Codex, avant les introductions en bourse des deux sociétés.

L’article d’OpenAI intervient moins d’une semaine après qu’Anthropic a publié un article de blog similaire mettant en garde contre les risques d’un développement rapide de l’IA. Les employés d’Anthropic ont déclaré dans le message qu’ils ne pouvaient pas suivre le rythme de l’automatisation et ne savaient pas comment résoudre le problème lorsque le système d’IA générait des erreurs.

Dans un article de blog, Anthropic a appelé à un ralentissement du développement de l’IA pour « permettre la persistance de la recherche sur la structure sociale et l’alignement ».

D’autres dirigeants de l’entreprise ont parlé de rôles humains qui ne peuvent pas être automatisés ou remplacés par l’IA, comme le PDG de Duolingo, Luis von Ahn, qui a déclaré que ses meilleurs designers produisent un meilleur travail que l’IA, et le PDG de Salesforce, Marc Benioff, qui a déclaré que l’entreprise ne ralentirait pas l’embauche dans son service commercial.

“Pour certaines choses, l’IA est tout à fait prête à faire un travail de haute qualité. Pour d’autres choses, ce n’est tout simplement pas le cas”, a déclaré von Ahn dans une interview en podcast en mai. “Nous n’allons pas réduire la qualité simplement pour utiliser l’IA.”

Si vous avez apprécié cette histoire, assurez-vous de suivre Business Insider sur Yahoo.