L'idée que l'intelligence artificielle nous conduira inévitablement à un scénario dans lequel les machines se rebellent contre les humains est très populaire. La superintelligence artificielle semble être la plus grande menace possible, et les histoires fantastiques selon lesquelles nous ne serons pas nécessaires dans un monde appartenant à la technologie n'ont jamais perdu de leur popularité.
Est-ce inévitable?
La représentation littéraire et cinématographique des systèmes informatiques intelligents des années 1960 a contribué à façonner et à résumer nos attentes pour l'avenir alors que nous nous embarquons dans la création d'une intelligence artificielle qui surpasse l'intelligence humaine. L'IA a évidemment déjà dépassé les humains dans certaines tâches spécifiques nécessitant des calculs complexes, mais est toujours à la traîne dans un certain nombre d'autres capacités. Comment augmenter simultanément la puissance de cet outil dur et préserver notre position économique sur lui.
Comme l'intelligence artificielle joue déjà et continuera de jouer un rôle important dans notre avenir, il est impératif d'explorer nos possibilités de coexister avec ces technologies complexes.
Kevin Abosch, fondateur de Kwikdesk, une société de traitement de données et d'intelligence artificielle, a partagé ses réflexions à ce sujet. Il pense que l'intelligence artificielle doit être rapide, discrète, fiable, alphabétisée et éthique. Oui, éthique.
Cadre éthique
Vidéo promotionelle:
Le concept d'un réseau neuronal artificiel, calqué sur un réseau neuronal biologique, n'est pas nouveau. Les unités de puissance de calcul, appelées neurones, se connectent les unes aux autres pour former un réseau. Chaque neurone applique un algorithme d'apprentissage sophistiqué sur l'entrée, avant de transmettre des données à d'autres neurones, jusqu'à ce que le neurone en sortie soit activé et ouvre la possibilité de lecture. Les systèmes experts comptent sur les gens pour «enseigner» le système, semant les graines de la connaissance. Les moteurs logiques recherchent des correspondances, font des choix, définissent des règles if-this-then-then dans la base de connaissances. Dans ce processus, de nouvelles connaissances sont ajoutées à la base de connaissances. Un réseau de neurones pur apprend en train d'acquérir une expérience non linéaire, n'a pas le problème de semer les connaissances par un expert. Les réseaux hybrides ont prouvéqui améliorent les capacités d'apprentissage des machines.
Examinons maintenant les problèmes éthiques de tels systèmes. Plus loin de la première personne.
"Mauvais code" contre bon code
L'auteur utilise des mots pour plonger le lecteur dans un monde fictif, et le fait de différentes manières, mais les grands auteurs le font très gracieusement. Un ingénieur logiciel écrit des lignes de code qui facilitent le traitement et le déplacement des données. Lui aussi peut choisir parmi un certain nombre d'options de différentes manières, mais les codeurs gracieux sont des adeptes de l'informatique. Le codeur en progression se concentre sur la façon d'encapsuler autant et mieux que possible dans un code court et soigné. Le code redondant est réduit au minimum. Un excellent code garde également la fenêtre ouverte pour les ajouts futurs. D'autres ingénieurs peuvent ajouter du code avec leur élégance inhérente, et le produit se développe de manière transparente.
Tout produit fabriqué par l'homme est basé sur l'intention. Les choses faites par les gens sont saturées d'intentions et, à un degré ou à un autre, sont porteuses de la nature même du créateur. Certaines personnes ont du mal à imaginer un objet inanimé de cette nature. Mais beaucoup seraient d'accord avec cela. L'énergie des intentions existe depuis des milliers d'années, unifie, divise, unit, transforme la société. Le pouvoir de la langue ne doit pas non plus être sous-estimé. N'oubliez pas que les lignes de code sont écrites dans un langage de programmation spécifique. Ainsi, je suis convaincu que le code qui devient un logiciel utilisé sur des ordinateurs ou des appareils mobiles est très "vivant".
Sans considérer la sagesse et la spiritualité dans le contexte de l'informatique et les conséquences potentielles de l'intelligence artificielle, nous pouvons toujours voir le code statique dans son ensemble avec le potentiel de «faire le bien» ou «faire le mal». Ces sorties se retrouvent uniquement dans le processus d'utilisation d'applications par des personnes. Ce sont les choix clairs que font les gens qui affectent la nature de l'application. Ils peuvent être visualisés dans un système local, déterminant l'impact positif ou négatif sur ce système, ou basés sur un ensemble de normes prédéfinies. Cependant, tout comme un journaliste ne peut pas être à 100% impartial dans le processus d'écriture d'un article, un ingénieur ajoute volontairement ou involontairement la nature de ses intentions au code. Certains pourraient soutenir que l'écriture de code est un processus logique et que la vraie logique ne laisse aucune place à la nature.
Mais je suis sûr qu'au moment où vous créez une règle, un bloc de code ou tout le code, tout est imprégné d'un élément de la nature humaine. Avec chaque règle supplémentaire, la pénétration de l'espèce s'approfondit. Plus le code est complexe, plus il contient de cette nature. D'où la question se pose: "La nature du code peut-elle être bonne ou mauvaise?"
De toute évidence, un virus développé par un pirate informatique qui brise malicieusement les défenses de votre ordinateur et fait des ravages dans votre vie est saturé d'une nature perverse. Mais qu'en est-il d'un virus créé par les gentils pour infiltrer les ordinateurs d'une organisation terroriste afin de prévenir les attaques terroristes? Quelle est sa nature? Techniquement, il pourrait être identique à son homologue néfaste, juste utilisé à de «bonnes» fins. Donc sa nature est gentille? C'est tout le paradoxe éthique des malwares. Mais nous ne pouvions pas l'ignorer en pensant au code «maléfique».
À mon avis, il y a un code qui gravite intrinsèquement vers le «mal» et il y a un code qui est intrinsèquement biaisé vers la bonne volonté. Ceci est plus important dans le contexte des ordinateurs hors ligne.
Chez Kwikdesk, nous développons un cadre et un protocole d'IA basés sur ma conception hybride système expert / réseau neuronal, qui ressemble le plus à un modèle biologique. Les neurones se manifestent comme des modules d'E / S et des dispositifs virtuels (en un sens, des agents autonomes) connectés par des «axones», des canaux sécurisés et séparés de données cryptées. Ces données sont décryptées lorsqu'elles entrent dans le neurone et après certains processus, sont cryptées avant d'être envoyées au neurone suivant. Avant que les neurones puissent communiquer entre eux via un axone, un échange de clé entre le participant et le canal doit avoir lieu.
Je pense que la sécurité et la séparation devraient être intégrées dans ces réseaux à partir du niveau le plus bas. Les superstructures reflètent les qualités de leurs plus petits composants, donc tout ce qui est plus petit que des blocs de construction sûrs entraînera un fonctionnement dangereux de toute la ligne. Pour cette raison, les données doivent être protégées localement et décryptées lors de leur transfert local.
Mise en œuvre et garanties
La qualité de notre vie, associée à des machines de plus en plus intelligentes, est naturellement une préoccupation, et je suis absolument convaincu que nous devons prendre des mesures pour assurer un avenir sain aux générations à venir. Les menaces pesant sur les machines intelligentes sont potentiellement diverses, mais peuvent être réparties dans les catégories suivantes:
Réservation. Sur les lieux de travail, les gens seront remplacés par des machines. Ce changement dure depuis des décennies et ne fera que s'accélérer. Une éducation adéquate est nécessaire pour préparer les gens à un avenir dans lequel des centaines de millions d'emplois traditionnels cesseront tout simplement d'exister. C'est compliqué.
Sécurité. Nous comptons entièrement sur les machines et continuerons de compter. Alors que nous faisons de plus en plus confiance aux machines lorsque nous passons d'une zone sûre à une zone de danger potentiel, nous pouvons être confrontés au risque d'erreur machine ou de code malveillant. Pensez au transport, par exemple.
La santé. Appareils de diagnostic personnels et données médicales en réseau. L'IA continuera d'évoluer dans le domaine de la médecine préventive et de l'analyse participative de données génétiques. Encore une fois, nous devons avoir l'assurance que ces machines ne s'engageront pas dans une subversion malveillante ou ne nous blesseront d'aucune façon.
Destin. L'IA prédit avec une précision croissante où vous irez et ce que vous ferez. Au fur et à mesure que ce domaine se développera, il saura quelles décisions nous prendrons, où nous irons la semaine prochaine, quels produits nous achèterons, ou même quand nous mourrons. Voulons-nous que d'autres aient accès à ces données?
Connaissance. Les machines accumulent de facto des connaissances. Mais s'ils acquièrent des connaissances plus rapidement que les humains ne peuvent les tester, comment pouvons-nous faire confiance à son intégrité?
En conclusion, je tiens à noter qu'une approche vigilante et responsable de l'IA pour atténuer les problèmes potentiels lors d'une explosion technologique de supernova est notre voie. Soit nous apprivoiserons le potentiel de l'IA et prierons pour qu'elle n'apporte que le meilleur à l'humanité, soit nous épuiserons son potentiel, ce qui reflétera le pire en nous.
Ilya Khel
