L'IA peut apporter d'incroyables bénéfices à l'humanité. Cependant, elle peut également causer des dommages considérables aux personnes ou à la société en l'absence de mesures suffisantes pour la sécuriser. Les risques dévastateurs liés à l'IA comprennent les attaques biologiques et chimiques, l'escalade de la confrontation nucléaire, le chaos politique généralisé et l'effondrement épistémique, la concentration extrême du pouvoir, la déresponsabilisation économique, la perte de contrôle au profit d'une superintelligence artificielle galopante, et bien d'autres risques. Considérant souvent la sécurité comme étant une tâche ultérieure, les entreprises d'IA qui développent et déploient ces systèmes continuent à le faire à un rythme imprudent et croissant, bien qu'elles soient conscientes de ces risques, qu'ils soient accidentels ou dus à une mauvaise utilisation.

Il est devenu évident qu'une intervention au niveau de la réglementation est indispensable pour préserver notre avenir commun. C'est le seul mécanisme permettant d'assurer la transparence, la surveillance et les garanties nécessaires pour prévenir l'escalade des dommages, atténuer les risques de catastrophes et pour que les avantages de l'IA soient partagés par tous. En même temps, il est clair qu'il est essentiel d'investir beaucoup plus dans les solutions techniques de sécurité.

Conformément à cet objectif, le FLI plaide en faveur d'une gouvernance efficace et significative de l'IA, y compris la mise en œuvre de systèmes de licences fiables, d'audit, de surveillance et de responsabilité. Pour ce faire, nous travaillons avec les législateurs des États-Unis, de l'Union Européenne, des Nations Unies et d'ailleurs. Nous les conseillons également. Une gouvernance efficace de l'IA nécessite également des institutions responsables. De plus, le FLI travaille avec les principales parties prenantes pour aider à les concevoir, à les doter en personnel et à les soutenir. Parallèlement à ces efforts sur la réglementation, le FLI finance la recherche technique, afin d'améliorer la sécurité quantitative des systèmes d'IA avancés et mène des campagnes éducatives destinées à sensibiliser aux risques et aux solutions requises.

Le développement technologique non régi et accéléré peut concentrer de nombreux pouvoirs au sein d'un petit nombre de groupes favorisés, d'organisations et d'individus. Cela aurait des conséquences désastreuses, et cela est plus réel dans le cas de l'intelligence artificielle que dans n'importe quel autre domaine.

Les gouvernements pourraient utiliser les incroyables capacités de l'IA pour exercer une surveillance et un contrôle sociétal dignes d'Orwell. L'accès à ce type de contrôle de l'information pourrait être renforcé par l'IA avancée, ce qui entraînerait une "vérité corrompue" et paralysante, ainsi que l'effondrement effectif d'une participation démocratique digne de ce nom.

Les entreprises géantes de l'IA pourraient créer des monopoles contraignants, leur conférant un pouvoir économique, social et politique considérable, qui pourrait surpasser celui des gouvernements élus. Au fur et à mesure qu'un petit groupe d'entreprises s'accaparera le pouvoir et le capital au détriment de l'emploi et de la concurrence sur le marché, des secteurs entiers et de vastes populations deviendront de plus en plus dépendants de ces entreprises, et n'auront aucune garantie satisfaisante sur le partage des bénéfices par tous. Ces deux scénarios pourraient rapidement devenir irréversibles : une fois que l'IA aura concentré suffisamment de pouvoirs dans différents secteurs au sein d'un groupe spécifique, elle verrouillera le contrôle via un petit parti dirigeant ou un petit nombre d'entreprises.

Une IA suffisamment puissante pour commander des secteurs entiers de l'économie politique, sociale et financière est malheureusement aussi suffisamment puissante pour le faire d'elle-même. Des superintelligences artificielles incontrôlées pourraient rapidement prendre le contrôle des systèmes existants et accumuler de plus en plus de pouvoir et de ressources pour atteindre leurs objectifs, au détriment du bien-être et du contrôle de l'homme. Cela entraînerait rapidement une déresponsabilisation quasi-totale de l'homme, voire son extinction.

La concentration de l'extrême puissance induite par l'IA présente des menaces de catastrophes. C'est pourquoi le FLI travaille activement à soutenir les institutions démocratiques et les processus de prise de décision, à établir et à renforcer les marchés concurrentiels avec de nombreux participants, ainsi qu'à responsabiliser les individus.

Le développement de systèmes d'IA dépassant les capacités des experts humains pour des tâches générales comporte de très grands risques. Dans le meilleur des cas, ces systèmes constitueraient une "deuxième espèce" d'intelligence qui priverait d'autonomie de vastes secteurs de l'humanité, puisque le travail, la planification, la création de cultures et probablement une grande partie de la prise de décision seraient délégués à des machines. Dans le pire des cas, ces systèmes pourraient être trompeurs, seraient capables de développer et de poursuivre leurs propres objectifs, de contourner les mesures de protection, de s'améliorer de manière exponentielle, de s'auto-reproduire et d'exclure l'humanité. Les systèmes superintelligents sont susceptibles d'être imprévisibles, incontrôlables, non alignés et non gérables par les institutions existantes. En cas de non-alignement ou de mauvaise utilisation, cela représente une menace existentielle pour l'humanité, soit par une déresponsabilisation finale, soit par une extinction au premier sens du terme.

Malgré cette menace largement reconnue, la frontier AI est actuellement développée de manière peu sécurisée, non responsable et non régie. Toute nouvelle formation constitue une expérience, car il est impossible de prévoir les capacités et les risques de la prochaine génération de systèmes. Cela est inacceptable, surtout au vu des sondages révélant à plusieurs occasions une inquiétude généralisée face au rythme et à l'insouciance du développement de l'IA avancée. Le FLI a exigé, et ne cesse de le faire, une pause pour ces nouvelles formations intensives, jusqu'à ce que des mécanismes adéquats de surveillance, de sécurité et de réglementation soient mis en place.

L'objectif de ces expériences, comme l'affirment de nombreuses entreprises d'IA, est le développement d'une IAG surhumaine. Dans cette optique, le FLI soutient un moratoire sur le développement de tels systèmes AGI surhumains ou de systèmes superintelligents pendant au moins 15 ans, jusqu'à ce que le développement puisse se faire avec des garanties de sécurité satisfaisantes, pouvant être prouvées et proportionnelles aux risques énormes qu'elles présentent.

Cette évolution devrait également s'accompagner d'un processus participatif significatif de délibération et de consentement à l'échelle mondiale. Les risques de ces systèmes sont supportés par tout le monde, et nous devons donc veiller à ce que diverses opinions mondiales soient prises en compte dans leur orientation et leur développement. Notre avenir commun ne doit pas être décidé par une poignée de milliardaires de la technologie.

L'IA peut apporter des bénéfices extraordinaires, résoudre des problèmes mondiaux insolubles et permettre d'avoir un avenir prometteur. Cependant, la grande majorité de ces avantages ne nécessite pas de superintelligence artificielle et les risques considérables qui l'accompagnent.

Comme nous l'avons déjà vu, les systèmes existants d'IA à usage général ont le potentiel de transformer de manière fondamentale et bénéfique la santé, la science, la productivité et bien d'autres domaines encore, lorsqu'ils sont accompagnés d'une formation spécialisée.

Cette transformation peut commencer dès aujourd'hui. Nous avons déjà la capacité d'exploiter l'IA pour trouver des traitements à de nombreuses maladies, fournir des tuteurs individuels à tous les enfants de la planète, trouver des solutions en matière d'énergie propre et réaliser d'innombrables innovations. Toutefois, pour y parvenir, nous devons investir intentionnellement dans le développement de l'IA, afin de résoudre des problèmes spécifiques et d'atteindre des objectifs identifiables (des Objectifs de développement durable, par exemple).

Toutefois, les investissements dans l'IA ont jusqu'à présent été largement axés sur la recherche de pouvoir, et non sur la résolution de problèmes : il s'agit de développer des systèmes très généraux, capables de remplacer les personnes dans le plus grand nombre de secteurs possible, plutôt que de répondre à des besoins spécifiques. Malgré les promesses d'abondance et les vagues prédictions d'un avenir utopique, les sociétés de frontier AI ont relativement peu investi pour offrir des avantages identifiables ou résoudre des problèmes spécifiques. Elles continuent à faire de vagues promesses quant à l'abondance future créée par l'IA, mais l'histoire ne permet pas de croire réellement que cette abondance sera partagée. Au contraire, les prévisions concernant le marché du travail et la divergence des niveaux de vie alimentent une inquiétude croissante et un mécontentement généralisé : de plus en plus d'individus sont remplacés, alors qu'un petit groupe d'entreprises accumule des richesses au détriment de l'emploi.

Nous devrions utiliser l'IA pour aider l'humanité à s'épanouir, et non pour la remplacer et la priver de ses droits. Les systèmes d'IA très performants n'ont pas été créés par l'ingéniosité d'un petit nombre de dirigeants d'entreprises d'IA, mais par un groupe diversifié de chercheurs (essentiellement formés grâce à des fonds publics). Ces derniers ont créé des systèmes à partir de la somme des savoirs, de la créativité et de l'expérience humaine. Nous pensons que les possibilités et les avantages de l'IA devraient être accessibles et largement partagés par l'humanité, et non pas consolidés entre les mains de quelques individus.