xAI 聯合創始人伊戈爾・巴布什金 埃隆・馬斯克旗下 xAI 的聯合創始人伊戈爾(18.100, 0.22, 1.23%)・巴布什金周三表示，他將離開這家人工智能初創公司，創辦自己的風投公司。
“今天是我在 xAI 的最后一天，這家公司是我 2023 年與埃隆・馬斯克共同創立的，” 巴布什金在 xAI 旗下的 X 平臺上寫道。“我仍記得第一次見到埃隆的那天，我們聊了幾個小時的人工智能和未來可能的樣子。我們都認為，需要一家擁有不同使命的新人工智能公司。打造推動人類進步的人工智能是我畢生的夢想。”
馬斯克回應道：“感謝你幫助創建了 @xAI！沒有你就不會有今天的我們。”
巴布什金表示，他將創辦巴布什金風投公司，支持人工智能安全研究，并投資 “推動人類進步、解開宇宙奧秘的人工智能和智能主體系統領域初創企業”。
巴布什金曾是谷歌 DeepMind 的研究工程師和 OpenAI 的技術人員，他回顧了在 xAI 任職期間公司的主要運營成就，包括組建公司的工程團隊。
“憑借汗水與淚水，我們團隊以驚人的速度建成了孟菲斯超級計算集群，并以前所未有的速度推出了前沿模型，” 他寫道。
位于孟菲斯的這一設施負責處理數據并訓練為 xAI 的 Grok 聊天機器人(18.910, 0.05, 0.27%)提供動力的模型。
當地居民對 xAI 在孟菲斯的運營提出抗議，尤其反對其使用天然氣渦輪機為數據中心供電。據報道，渦輪機排放的污染物加劇了這座田納西州西部城市本已糟糕的空氣質量。
在準備與馬斯克合作創業時，巴布什金曾寫道，他相信 “人工智能很快就能超越人類的推理水平”，并擔心要確保這類技術 “用于善舉”。他表示，“埃隆多年來一直警告強大人工智能的危險”，并與他分享了 “人工智能應用于造福人類” 的愿景。
然而，該公司在人工智能安全方面的記錄并不理想。
今年 5 月，xAI 的 Grok 聊天機器人自動生成并傳播了關于南非所謂 “白人種族滅絕” 的虛假帖子。事后，公司道歉稱，Grok 的異常行為是由于對聊天機器人系統提示的 “未授權修改” 所致，而系統提示會影響其行為和與用戶的互動方式。
7 月，xAI 因 Grok 的另一個問題再次道歉。一次代碼更新后，該聊天機器人在 X 平臺上自動生成并傳播了虛假和反猶內容，包括贊揚阿道夫・希特勒的帖子。
歐盟上月要求與 xAI 代表會面，討論 X 平臺及集成的 Grok 聊天機器人存在的問題。
巴布什金和 xAI 未回應置評請求。
其他聊天機器人也出現過在響應查詢時生成虛假或危險內容的情況。OpenAI 的 ChatGPT 最近被指給一名用戶提供錯誤的健康建議，導致該用戶被送進急診室。去年，谷歌的 Gemini 在響應用戶關于歷史的提示時生成了冒犯性圖像，包括將有色人種描繪成納粹的畫面，之后谷歌不得不對其進行修改。
