Support Brain Health
U2U Scholarships and Financial Aid
U2U PTSD and Mental Health
TAU Canada Multiple Sclerosis Fund
Semaine de la cybersécurité et de l'Intelligence artificielle à l'Université de Tel-Aviv
Au sein d’une période troublée en Israël, les événements annuels combinés de la Cyber Week et de la AI Week ont placé pendant quatre jours l’Université de Tel-Aviv au centre de la recherche mondiale sur la cybersécurité. Organisés par le Centre Blavatnik de recherche interdisciplinaire sur la cybersécurité, l’atelier Yuval Ne’eman pour la science, la technologie et la sécurité de l’Université de Tel-Aviv, la Direction nationale israélienne de la cybersécurité et le ministère des Affaires étrangères, du 24 au 27 juin, la Conférence a attiré plus de 7 000 participants, dont 12 % venus de l’étranger. Dans ce cadre, un séminaire a été consacré à l’état de l’antisémitisme en ligne et aux mesures qui peuvent être prises pour le combattre au moyen de l’intelligence artificielle.
L’événement a souligné l’importance de l’innovation, de la collaboration et de la résilience pour la lutte contre les menaces émergentes au niveau mondial, réaffirmant la position d’Israël comme leader dans le domaine de la cybersécurité.
Selon Gabi Portnoy, directeur général de la Direction nationale israélienne de la cybersécurité, les cyberattaques, en particulier en provenance de l’Iran, ont triplé depuis le 7 octobre : « L’activité dans le domaine du cyber devient de plus en plus agressive depuis le 7 octobre, combinant guerre psychologique, extraction d’informations diffusées à travers les divers canaux médiatiques, pour la plupart identifiées comme provenant de l’Iran… Le cyberterrorisme iranien utilise des informations volées dans les systèmes gouvernementaux ».
Investir dans l’avenir d’Israël
Le 13e Premier ministre israélien, Naftali Bennett, a, entre autres, loué la résilience et l’idéalisme de la jeune génération israélienne : « …la plus résistante que nous n’ayons jamais eue. Elle a intégré l’éthique du travail, le courage, la force, la résilience et l’idéalisme. Elle a changé pour toujours, se soucie davantage de l’État d’Israël, et d’y construire un avenir. Nous tenons bon ».
Naftali Bennett a également encouragé les investissements mondiaux en Israël : « Israël est le terrain fertile des super entrepreneurs des 50 prochaines années. Pour vous tous qui êtes venus du monde entier, c’est le moment idéal pour y investir ».
L’évènement comprenait également une exposition de startups israéliennes dans le domaine de la cybersécurité, en démarrage comme Adversa, Cyclops, MEMCYCO, et des sociétés de premier plan telles que Checkpoint et Cloudflare.
Dans le cadre de la Cyber Week, la neuvième cyberconférence annuelle des jeunes a réuni 600 personnes. Mettant l’accent sur l’égalité des chances pour les jeunes de la périphérie d’Israël, elle visait à doter les adolescents des compétences nécessaires pour un service militaire orienté vers la technologie et les carrières dans l’industrie de la haute technologie israélienne.
La semaine de l’Intelligence artificielle
En parallèle à la Cyber Week, l’AI Week 2024, qui s’est déroulée les 26 et 27 juin, a accueilli des débats critiques sur l’avenir de l’Intelligence Artificielle, ses liens avec la cybersécurité et les défis auxquels elle fait face en Israël et dans le monde. Y ont pris part d’importants participants de l’étranger venus témoigner leur soutien, comme la ministre allemande de l’Éducation et de la Recherche, Bettina Stark-Watzinger et Giovanni Capriglione, représentant de l’État du Texas.
Dror Bin, PDG de l’Autorité israélienne de l’innovation, a souligné les progrès significatifs d’Israël en matière d’IA, se classant au premier rang mondial en termes de son utilisation par habitant et d’investissements privés. Néanmoins, il a reconnu les lacunes dans l’infrastructure et les cadres réglementaires, notamment dans le secteur public, où d’importants projets sont en cours pour une mise en œuvre plus large de l’IA afin d’améliorer l’interconnexion entre les ministères, la rapidité des prises de décision et l’efficacité globale du secteur.
Nir Yanovsky Dagan, chef de l’unité Innovation, données et IA à l’Agence nationale israélienne du numérique, a souligné le double visage de l’IA, possédant le potentiel de changer les relations entre les divers acteurs, mais utilisée par certains pour créer le chaos. Il a par ailleurs relevé la nécessité de l’intégrer dans les services de santé et les services gouvernementaux afin de défendre les valeurs démocratiques, l’égalité des chances et la liberté : « Dans chaque mesure que nous prenons, dans chaque projet que nous lançons, nous devons penser aux millions de personnes qui souffrent en Israël ».
L’IA rencontre la cybersécurité
Selon Gabi Portnoy, l’IA peut aussi avoir un l’impact transformateur sur les opportunités en matière de cybersécurité. Ses progrès rapides ont le potentiel d’améliorer considérablement la sécurité grâce à l’augmentation des capacités d’analyse et de détection : « L’IA peut contribuer à réduire l’écart entre les attaquants et les défenseurs en générant des informations plus rapides et en détectant les nouvelles mutations des cybermenaces ».
Garantir un monde d’IA sécurisé implique de travailler sur trois fronts : se défendre contre les attaques d’IA, protéger les systèmes d’IA contre la manipulation et coordonner les efforts visant à améliorer la détection et l’atténuation des cybermenaces. L’objectif de la Direction nationale israélienne de la cybersécurité est de créer un laboratoire national afin que tous les développeurs d’IA puissent tester et améliorer leurs modèles avant de les déployer.
Le Prof. Amnon Shashua, PDG de Mobileye, a pour sa part retracé les étapes importantes du développement de l’IA jusqu’aux progrès du traitement du langage naturel, qui ont conduit à ce qu’il décrit comme « une vaste intelligence émergente ». Il a souligné les limites actuelles de l’IA : « Les machines « surapprennent » massivement l’ensemble des connaissances humaines, comme un étudiant médiocre qui résout une grande quantité de problèmes dans l’espoir de tomber sur des questions similaires à l’examen. Elles peuvent impressionner en surface un individu qui n’est pas expert dans un domaine spécifique, mais se révèlent être en fait des ‘idiots bien informés’. À l’heure actuelle, l’IA nécessite une supervision constante, et le prochain objectif, une IA entièrement autonome, pourrait bien prendre plus de temps que prévu ».
La créativité à l’ère de l’Intelligence artificielle
Le Prof. Shashua a également évoqué le problème de l’alignement de l’IA avec les valeurs et les objectifs humains et le potentiel d’abus technologique, incluant les cyberattaques contre les systèmes démocratiques par des bots informatiques imitant les humains incitant au chaos sur les plateformes sociales, les fraudes d’identité par le biais de contrefaçons profondes et la possibilité que les systèmes d’IA soient bernés pour violer les politiques d’éthique intégrées. Il conclut sur la nécessité de contrôles solides pour garantir la fiabilité des solutions basées sur l’IA et l’importance de fixer des limites aux interactions avec elle, afin d’atténuer les risques et de garantir son développement éthique, notamment une limitation de la durée des conversations entre humains et machines.
Dans un panel captivant consacré à la créativité à l’ère de l’intelligence artificielle, François Pachet, pionnier de la musique générée par l’IA, a souligné la surabondance actuelle de cette production musicale, et exprimé ses inquiétudes quant au déclin de la qualité de la musique grand public ; préoccupation partagée par les musiciens israéliens Izhar Ashdot et Ivri Lider, qui ont également insisté sur le fait que l’IA est un outil plutôt qu’un créateur indépendant, soulignant la nécessité de la contribution humaine pour produire une musique à résonance émotionnelle.
Pour le mathématicien Fernando Garibay, par contre, la façon dont nous créons changera avec le temps et la jeune génération réagit déjà bien à la musique créée par IA. Dans une démonstration captivante, il a montré comment l’appel à l’expérience personnelle peut débloquer la créativité profonde tant chez les humains que pour l’IA, et peut permettre à celle-ci de générer un contenu à résonance émotionnelle.
Intelligence artificielle et environnement durable
D’autres panels ont été consacrés à la manière dont l’IA relève les défis environnementaux, comme le changement climatique, la sécurité alimentaire, la qualité de l’eau et les technologies propres : « Nous devons changer rapidement le cours de l’économie actuelle à forte intensité de carbone, multiplier par mille la capacité d’élimination du carbone d’ici 2050 et inverser la perte de biodiversité », a relevé Moran Haviv, du département d’innovation stratégique de Microsoft, soulignant le rôle primordial de l’IA dans l’accélération de ces efforts.
Le panel sur l’élaboration des politiques mondiales en matière d’IA, composé d’experts israéliens et internationaux, s’est concentré sur la nécessité de l’alignement des réglementations nationales et internationales, à une époque où la technologie de l’IA continue d’évoluer, rappelant les débuts de l’ère d’Internet, lors desquels une approche réglementaire non interventionniste avait été adoptée, suscitant des critiques ultérieures. Ellen Goodman, conseillère principale pour la justice algorithmique au ministère américain du Commerce, a parlé d’une guerre culturelle entre les défenseurs de la sécurité préoccupés par les risques existentiels de l’IA et les réalistes axés sur les préjudices actuels tels que les biais et la protection des consommateurs.
Regard vers l’avenir : compétitivité mondiale, réglementation et éthique
Parallèlement, le débat éthique autour de l’IA se poursuit, notamment autour de la question de la capture de données et de l’utilisation de données privées pour entrainer les modèles d’IA. S’il est naturel de s’efforcer d’assurer une protection maximale de la confidentialité des données, cela peut entraver le développement de l’IA puisque les modèles doivent être entraînés sur des ensembles de données volumineux et fiables.
« Si nous n’adoptons pas des principes d’éthique tels que la transparence et l’explicabilité, nous risquons de produire des discriminations, d’arriver à une érosion de la confiance de la part du public et à des accusations injustifiées » a souligné le Dr. Alžběta Solarczyk Krausová, directrice du Centre d’innovation et de recherche sur le cyber droit de l’Académie tchèque des sciences. En même temps, on pourrait affirmer que, tout comme Excel ne peut être tenu responsable des pertes financières résultant d’une formule incorrecte, ou qu’un appareil d’IRM n’est pas un acteur indépendant, l’IA elle-même ou ses fournisseurs ne devraient pas être tenus responsables des mauvaises intentions de ceux qui l’utilisent à des fins malveillantes, qui doivent porter la responsabilité de leurs actes.
Alors que l’IA continue de remodeler les industries et les sociétés du monde entier, le débat sur sa réglementation, ses implications éthiques et juridiques ainsi que la portée de ses applications continuera d’évoluer. Des événements comme l’AI Week 2024 constituent des plates-formes cruciales pour tracer la voie vers un avenir axé sur une IA sûre, innovante et éthiquement solide.
Intelligence artificielle et antisémitisme
Enfin, un séminaire commun à la Cyber Week et à la semaine de l’IA a été organisé autour du thème : « La technologie contre la haine : comment l’intelligence artificielle peut aider à combattre l’antisémitisme en ligne ».
Les experts ont tout d’abord souligné que la haine en ligne devait être prise au sérieux, car elle reste rarement uniquement en ligne, et « les paroles se transforment en actes », comme l’a souligné Carole Nuriel, directrice régionale principale de la ligue antidiffamation (Anti-Defamation League – ADL). Les statistiques de l’ADL montrent qu’un nombre croissant de Juifs cachent leur judéité, tant en ligne que sur les campus, plus de 60 % d’entre eux ayant déclaré se sentir moins en sécurité que l’année dernière. Carole Nuriel a également souligné que les cas de harcèlement fondé sur l’identité ont augmenté au cours de la dernière année pour tous les groupes marginalisés, et exprimé ses inquiétudes quant au manque d’application efficace des politiques anti-haine sur les sites de médias sociaux ainsi que le rôle croissant des plateformes d’IA comme ChatGPT dans la propagation de la désinformation.
« L’augmentation des discours antisémites et en particulier des discours antisionistes en ligne peut aider à prédire l’activité antisémite dans le monde réel, y compris les menaces et la violence d’extrême droite et les incidents antisémites d’extrême gauche à la fois sur les campus et à l’extérieur », a relevé Avi Mayer, ancien rédacteur en chef du Jerusalem Post et coprésident du Conseil consultatif du collectif Judaïsme Mondial (Global Jewry).
Pour Michal Cotler-Wunsh, conseillère principale en politique et stratégie auprès de l’envoyé spécial d’Israël pour la lutte contre l’antisémitisme et ancien membre de la Knesset, l’antisémitisme peut être considéré comme un « virus en constante mutation » qui change constamment de terminologie et de plateforme, ce qui le rend particulièrement difficile à reconnaître et à combattre, une action contre l’une des souches ne supprimant pas les autres. « L’une de ses tendances dominantes depuis des années est l’antisionisme, « sioniste » devenant un nom de code pour « Juif ». Depuis le 7 octobre, nous vivons l’inversion la plus orwellienne du réel et du droit qui a transformé l’image d’Israël en rien de moins qu’un État génocidaire. »
Éliminer la haine grâce à l’IA
Comment lutter contre ces discours de haine qui se multiplient ? Trois représentants de startups ont expliqué comment ils utilisent la technologie pour stopper la propagation de la haine et de la désinformation.
Tal-Or Cohen Montemayor, fondatrice et directrice exécutive de CyberWell, la première base de données en temps réel au monde sur l’antisémitisme en ligne, a expliqué comment son entreprise utilise l’IA pour identifier d’éventuels discours antisémites sur Internet, employant des analystes humains pour vérifier chaque instance et les signaler aux plateformes.
Co-fondatrice de la startup Savee.AI, Stav Cohen Lasri a expliqué comment le module complémentaire du navigateur Chrome de son entreprise fournit aux utilisateurs des réactions basées sur des faits qu’ils peuvent publier en réponse aux contenus signalés comme fake news ou complotistes.
Maya Shabi, responsable de la stratégie d’atténuation des risques chez AI EverC, a expliqué comment l’étude des problèmes juridiques des grandes entreprises financières fournit à sa compagnie des outils pour détecter la manière dont les groupes terroristes et propagateurs de haine sont financés (généralement en espèces, crypto-monnaie ou blanchiment d’argent), ainsi que les pays qui soutiennent financièrement la haine et le terrorisme. En se « dissimulant » son équipe parvient à découvrir quelles plateformes sont utilisées pour transférer de l’argent et à alerter ces plateformes afin qu’elles stoppent ces flux de trésorerie.
Si le secteur financier avait gardé un œil attentif sur ces questions avant le 7 octobre, la propagande ne se serait pas répandue aussi rapidement, explique-t-elle. « Nous avons vu le 7/10 comment des Etats et des groupes organisés se sont immédiatement accaparé les media sociaux, transformant les algorithmes en armes afin de détourner le récit et utilisant des bots informatiques pour rendre les contenus viraux et présents sur les fils d’actualité de tout le monde ».
Les intervenants ont souligné l’importance des politiques à mettre en place et à appliquer fermement par les gouvernements et les entreprises. Les grandes entreprises technologiques qui gèrent les media sociaux ne peuvent pas être autorisées à laisser des discours de haine se propager sous leurs yeux. Cependant, les surveiller et les forcer à s’auto-surveiller ne sera pas une tâche facile car ces entreprises profitent largement des contenus provoquant la colère qui stimulent le racisme.
Cependant, Shiran Mlamdovsky Somech, fondatrice de Generative AI for Good, a montré que même si l’IA est souvent utilisée pour susciter la colère, elle peut également l’être pour promouvoir la compassion, expliquant qu’elle a utilisé l’IA générative pour « donner une voix aux silencieux », notamment aux victimes de l’Holocauste et aux otages.
« Même s’il s’agit d’une bataille difficile », a conclu Avi Mayer, « le peuple juif n’est pas seul dans ce combat. Les sondages d’opinion montrent que le grand public américain est préoccupé par la montée de l’antisémitisme et qu’il le perçoit dans tout l’éventail politique. Les trois quarts d’entre eux pensent que la haine des Juifs est un problème en Amérique, et plus de la moitié estime qu’elle est en augmentation. Enfin, plus de 80 % des Américains déclarent que la croyance selon laquelle Israël n’a pas le droit d’exister, croyance à la base de l’antisionisme, est effectivement antisémite ».
Photos;
1. Dror Bin, PDG de l’Autorité israélienne de l’innovation
2. Naftali Bennett
3. Nir Yanovsky Dagan, chef de l’unité Innovation, données et IA à l’Agence nationale israélienne du numérique
4. Le Prof. Amnon Shashua, PDG de Mobileye
5. François Pachet
6. Panel sur la créativité à l’âge de l’intelligence artificielle
7. Moran Haviv, département d’innovation stratégique de Microsoft
8. Le “cybercheval” de l’Université de Tel-Aviv
(Crédit photos : Université de Tel-Aviv)
9. Michal Cotler-Wunsh (à gauche), Shiran Mlamdovsky Somech et une chaise visde représentant les otages détenus à Gaza. (Crédit photo: Dror Sithakol, Tel-Aviv University)