智东西（公众号：zhidxcom）
编译 | 陈骏达
编辑 | Panken
智东西6月20日消息，今天凌晨，一个多月前正式从OpenAI离职的OpenAI联合创始人兼前首席科学家Ilya Sutskever在社交平台X上官宣，自己将建立全世界第一个直接以安全超级智能为目标的AI实验室——Safe Superintelligence Inc.（SSI，安全超级智能）。
▲Ilya官宣创业的推文（图源：X）
SSI的官网上写道，SSI只有一个目标和一个产品：安全超级智能。公司将通过革命性的工程和科学突破，同时追求安全性与AI能力，并优先确保安全性。
由于SSI的目标清晰，他们不会因为管理费用或产品周期分心，也不会受到短期商业压力的影响。公司创始人有丰富的从业背景和极高的声誉，因此筹集资金不会成为SSI面临的挑战。
SSI强调公司目前正在组织一支精干的团队，都是由专注于实现安全超级智能的优秀的工程师和研究人员构成的。他们在美国帕洛阿尔托和以色列特拉维夫设立办事处，这是因为3位创始人在当地有大量的人脉积累。
与Ilya一同创办SSI的另外两位创始人是Daniel Gross和Daniel Levy。Daniel Gross是一名AI行业的老兵，十几岁的时候就创建了搜索引擎Greplin（后更名为Cue），他21岁时Cue被苹果收购，他也加入苹果领导AI和搜索部门。他在2017年离开苹果，到硅谷知名孵化器Y Combinator创建了专门负责投资AI的项目。另一位创始人Daniel Levy毕业于斯坦福大学，并在OpenAI与Ilya共事过一段时间。
▲SSI公司的三位创始人（从左至右：Daniel Gross、Ilya Sutskever、Daniel Levy）
一、将实现“核能级别”的安全水平，一步到位直通超级智能
以“安全超级智能”直接命名公司展现了Ilya和其它两位创始人对AI安全问题的承诺。SSI在官网上写道，超级智能已经触手可及了，而构建安全超级智能是我们这个时代最重要的技术问题。
在昨日接受彭博社的独家专访时，Ilya透露，“这家公司的特别之处在于，它的第一个产品将是安全超级智能，在那之前它不会做任何其他事情”。实现安全超级智能是SSI的唯一使命，也是他们的整个产品路线图。
▲网友对SSI愿景的生动阐释（图源：X）
SSI的团队、投资者和商业模式都致力于实现SSI。Ilya称公司不会面临处理大型而复杂的产品的问题，也不会陷入激烈的竞争。
Ilya并没有清晰地分享SSI将如何安全地实现超级智能。但他向彭博社透露，公司将尝试通过AI系统内部的工程突破来实现安全性的提升，而非依赖系统外部的“护栏”技术。公司产品的安全水平将是核能级别的安全，而不是互联网公司常常挂在嘴边的信任与安全（Trust and Safety）中的那种安全。
AI安全一直是Ilya最关心的问题。去年7月份，他在OpenAI领导组建了一个超级对齐团队，旨在于4年内解决引导和控制超级智能系统的问题。不过随着OpenAI内部的人事动荡和权力斗争，这一部门目前基本已经处于解散的状态。
Ilya曾多次就AI安全问题公开发声。他在去年11月份进行了一场TED演讲，向公众普及了迈向AGI（通用人工智能）道路上可能存在的安全风险。
他还参与了一部关于AI的纪录片的拍摄，分享了自己的AGI世界观和担忧。他在这部纪录片中称，如果不加干涉，自然选择的规律将会偏向那些优先保障自身利益的AI系统，届时人类的利益也可能受到损害。
其实，Ilya在5月15日官宣从OpenAI离职时，就已经预告了自己接下来会有大动作。他当时在推文中写道，自己对未来将要发生的事情十分兴奋，这个项目对他个人来说很有意义。
二、不差钱不缺算力也不缺人才，创始人资金人脉雄厚
创始人的背景给了SSI充足的底气，让他们能在公司官网写出“我们不受短期商业压力的影响”的表述。Ilya作为目前AI行业的顶流人物，在宣布创业消息后就受到广泛关注，更有网友疾呼自己要给Ilya打钱支持。他一直以来都主张要优先考虑AI安全问题，因此也深受同样重视这一问题的技术人员的尊重，在AI行业声誉颇高。
▲网友疾呼自己要给Ilya打钱（图源：X）
但Ilya大概率不需要网友众筹也能获得大笔资金，让他能心无旁骛地推动安全超级智能事业。虽然他在接彭博采访时拒绝透露SSI的投资者和目前筹集到的资金，但我们能从几位创始人的背景中找到些许端倪。
在Ilya还是OpenAI超级对齐部门的负责人时，OpenAI官宣了与谷歌前CEO Eric Schmidt的合作。OpenAI当时和Eric Schmidt共同拨款1000万美元，用于支持超级对齐技术的研究，具体包括可解释性、可扩展的监督等方面的探索。Eric Schmidt财力雄厚，目前净资产约有250亿美元，在世界财富榜上排名第74位，还曾考察过购买美国TikTok的可能性。
▲OpenAI官宣与Eric Schmidt的合作（图源：X）
Eric Schmidt十分关注AI安全问题，还曾在2023年英国举办首届全球AI安全峰会前，与DeepMind的联合创始人Mustafa Suleyman联合在英国《金融时报》上撰文呼吁加强AI监管，提升AI公司开发的透明度。
SSI的另一位创始人Daniel Gross可能也拥有大量财富。2013年，也就是Daniel Gross年仅21岁时，他的创业公司Cue就被苹果以4000万-6000万美元的价格（具体金额未披露）收购。此后他加入苹果，领导苹果的AI和搜索部门。
Daniel Gross还是一名活跃的天使投资人。他曾投资过打车平台Uber、代码托管平台GitHub还有在2022年被Adobe公司以200亿美金的高价收购的实时协作设计软件公司Figma。他目前已经投资过大约35家科技公司，并从中获得不菲的收益。
在2017年加入YC后，Daniel Gross发起了YC的AI投资项目。他自己也在一年后成立了创业加速器和基金Pioneer，专门寻找科技领域的早期投资机会。
▲Daniel Gross创建YC AI投资项目时的博客文章（图源：YC）
Daniel Gross还与硅谷知名投资人Nat Friedman有多次合作。Nat Friedman是一名连续创业者，在公司被微软收购后进入微软任职，官至微软副总裁一职。在微软收购GitHub后出任GitHub CEO。Daniel Gross和Nat Friedman一同参与了对Uber、GitHub以及Figma等公司的投资。
二人还在2023年斥资1亿美元，建立了一个名为Andromeda的AI算力集群，并用这些算力来换AI初创公司的股权。这一算力集群拥有包括近3000块英伟达H100 GPU在内的大量算力基础设施，光是GPU就重达近5吨。看来SSI公司的算力是不用愁了。
▲Andromeda算力集群官网（图源：Andromeda）
SSI公司在美国帕洛阿尔托和以色列列特拉维夫设有办事处，他们称公司在当地有着深厚的根基并有能力招募顶尖技术人才。
帕洛阿尔托是美国旧金山湾区的重要城市，位于硅谷中心地带，可谓是创业的风水宝地。这里曾是惠普总部所在地，乔布斯小时候就在这长大，特斯拉也在这里布局了他们的全球工程与AI总部。
▲位于硅谷中心地带的帕洛阿尔托（图源：Google Maps）
SSI创始人之一的Daniel Levy大学就读于斯坦福，而斯坦福的校园距离帕洛阿尔托的市中心只有几分钟的路程，这或许能让SSI享受到斯坦福强大的校友资源。
帕洛阿尔托离苹果公司在库比蒂诺的总部也只有十几公里。Daniel Gross在苹果公司任AI和搜索部门负责人时积累的人脉或许能在创建SSI时派上用场。
公司的两位创始人Ilya和Daniel Gross与以色列也颇有渊源。Daniel Gross出生在耶路撒冷，而Ilya是出生在俄罗斯的犹太人，5岁时随着家人移民到以色列。Ilya在以色列开放大学学习了两年，之后才移民到加拿大转学到多伦多大学。在Sam Altman进行全球巡讲活动时，Ilya还特别出席了在以色列特拉维夫大学的分享活动。
▲Ilya与Altman在以色列特拉维夫大学（图源：路透社）
几位创始人也向有志于开发安全超级智能系统的工程师和研究人员发出了邀请，让他们加入这支精明强干的队伍，共同解决这个时代最重要的技术挑战。
结语：Ilya不忘初心，通往超级智能的道路或将更加安全
Ilya与他人一同创办的SSI的愿景其实和OpenAI一开始的愿景颇为相似。OpenAI从成立之初就将公司的使命定义为确保AGI造福全人类，并将安全视为核心任务，但随着公司规模的扩大和融资的需求，OpenAI逐渐转变了自己的运营风格和公司架构，将增长视为公司的主要任务之一。
而Ilya在接受彭博社独家采访时，强调自己希望新公司SSI开发的产品能成为一股向善的力量，并反映人类共同认可的价值观。Ilya认为未来将会出现能够自主开发AI技术的超级智能系统，SSI的目标便是提升这些系统的安全性，同时让这些系统发展出强大的能力，造福全人类。
在通往超级智能的路上，有这样一股重视安全和人类共同利益的力量，或许能让我们都安心不少。
来源：彭博社、SSI
