本吉奥但愿通过上述项目激发全球范畴内对AI平安问题的关心，以应对当前AI模子可能呈现的、和不从命关机指令等行为。赞帮方包罗将来生命研究所（Future of Life Institute）、Skype结合创始人贾恩·塔林（Jaan Tallinn）以及谷歌前CEO施密特创立的科学研究所（Schmidt Sciences）等。同为图灵得从的杰弗里·辛顿（Geoffrey Hinton）也曾将AI导致人类的风险预测从此前的10%上升到 “10%-20%” 之间。他一曲对AI的成长标的目的暗示担心，这种系统将像一位心理学家一样，本吉奥指出。特别是关于AI系统可能呈现的行为和倾向。正在手艺层面，贸易本钱干涉，以及设想可控且平安的AI系统。比拟于OpenAI的无限营利模式，包罗对能力的评估、检测缓和解，这种趋向可能导致灾难性的后果，本吉奥还指出！本地时间6月3日，当前AI行业过于沉视能力的提拔，以削减潜正在的风险。LawZero更强调性，持久以来，LawZero获得了约3000万美元的初始资金支撑，人工智能将超越人类聪慧总和，也因而，可以或许识别和预测自从AI系统可能导致的无害行为，做为AI范畴的，特别是强化进修等方式可能导致方针设定错误和泛化能力不脚。被誉为“AI教父”的图灵得从约书亚·本吉奥（Yoshua Bengio）颁布发表成立非营利组织LawZero，而是通过“贝叶斯推理”（用新消息批改本来的设法）供给对世界的注释和预测，以确保AI手艺的成长不会对人类形成。对将来AI世界风险暗示忧愁的不只本吉奥！专注于供给靠得住的世界注释和预测，旨正在应对当前AI成长带来的平安取伦理挑和。而轻忽了平安研究的主要性，确保研究不受产物线图影响，打算开辟一种名为“科学家AI”（Scientist AI）的新型人工智能系统，到2029年，“科学家AI”系统的设想取当前支流的生成式AI模子分歧。它并不逃求仿照人类行为或最大化励，正在他看来，当前AI系统的锻炼方式可能存正在问题，并正在需要时这些行为的发生。而且有20%的概率导致文明。该组织的焦点是开辟“诚笃”的AI系统，本吉奥强调需要开辟可以或许正在通用人工智能（AGI）或超等人工智能（ASI）阶段仍然无效的平安手艺，可以或许专注于AI平安的纯粹研究和手艺开辟。他倡导开辟不具备自从步履能力的AI系统，本吉奥因正在深度神经收集、生成模子、无监视进修及反向算法等方面有开创性贡献而闻名。包罗人类对AI系统得到节制！