Boom Before Doom : La raison terrifiante d’être optimiste envers l’IA

Nos stratèges en investissement mondial soutiennent que l’IA pourrait être aussi transformatrice que les révolutions agricole ou industrielle, mais comporte des risques existentiels à moyen et long terme. Les deux révolutions précédentes ont fait grimper la croissance du PIB de plus de 30 fois par rapport à l’époque précédente, et l’IA pourrait s’avérer tout aussi puissante. 

Les risques sont tout aussi profonds. Les acteurs malveillants pourraient utiliser l’IA à des fins malveillantes, tandis que les systèmes d’IA eux-mêmes pourraient, sans le vouloir, poursuivre des objectifs nuisibles aux humains. L’irréductibilité computationnelle complique la sécurité, puisque le comportement de l’IA peut ne pas être prévisible avant qu’il ne se produise. 

Nos collègues notent qu’une interprétation littérale de la mécanique quantique implique des lignes temporelles où l’humanité survit à l’IA et d’autres où elle ne survit pas. Cela crée un effet de sélection dans lequel les observateurs ne vivent que des résultats positifs, une logique qu’ils appliquent aussi au niveau individuel lorsqu’ils considèrent les risques potentiellement mortels.