半藏森林克隆人引爭議！利用AI技術吸金的“克隆人”，會引發AI詐騙嗎？

“半藏森林克隆人”剛出現不久，就被暫時下線了。

據揚子晚報報道，6月5日，有網友發現北京紅棉小冰科技有限公司（下稱“小冰公司”）推出的虛擬人類娛樂平臺X Eva APP中，上線不久的網紅“半藏森林”等AI克隆人疑似被下架。

(資料圖)

小冰公司對外回應稱，“半藏森林”克隆人目前還在內測，內測名額已滿，所以先下線了。目前在進行調整，其他虛擬人暫時也還不可見。

此前，“半藏森林克隆人一年收入可高達72萬”的話題曾引發網友關注。據財經網報道，“目前不付費可以互動，付費可以看朋友圈、打視頻電話。兩種付費模式月費分別是6元/30元、年費72元/360元”，以半藏森林為例，如果有1萬個情感模式付費用戶，相當于半藏森林克隆人一年收入72萬元；如果有1萬個超級模式付費用戶，一年則可實現收入360萬元。

半藏森林克隆人的出現及其變現模式也引發了網友們的探討。“虛擬人技術未來前景廣闊，但市面上的AI技術成熟度不高，導致虛擬人物智商普遍不高，應用場景有限，大大限制了自身發展。要判斷小冰克隆人商業模式是否可行，目前還為時過早。”6月5日，深度科技研究院院長張孝榮告訴時代周報記者。

此外，也有部分網友對該平臺和AI克隆人是否會侵犯用戶隱私，帶來安全隱患等問題感到擔心。

為了解相關情況，6月6日，時代周報記者向小冰公司發送采訪提綱，截至發稿未獲回復。

網紅吸金新手段？

網紅明星利用AI克隆人形象賺錢，這種變現方式著實超出了不少人的想象。

據北京商報報道，AI半藏森林上線的信息出現在該APP首頁發現欄目，和半藏森林克隆人互動時，對方可通過語音、文字形式回復。聊天界面上方設有增值服務入口，點擊立即解鎖，可體驗更多互動形式。

而半藏森林AI克隆人有兩種付費模式，情感模式需支付6元/月或72元/年，用戶能享受克隆人語音消息回應、同步克隆人朋友圈；超級模式支需付30元/月或360元/年，克隆人會為用戶提供撰寫文案等服務，還能進行視頻通話。在此前的體驗階段，超級模式暫未上線。

（圖源：半藏森林新浪微博）

半藏森林AI克隆人的出現，與小冰公司推出的“克隆人計劃”有關。

“小冰公司的‘克隆人計劃’最短只需個人采集三分鐘數據，即可為明星紅人、專家學者或普通人創造源于本人性格、技能、聲音、外貌的AI克隆人，并提供專有平臺，以便于本人將認證克隆人有償或無償提供給自己的受眾。”AI小冰微信公眾號在今年6月1日發布的文章中稱，克隆人基于小冰框架大模型、神經網絡渲染及超級自然語音技術，可實時情感交互及提供AIGC能力，甚至有自己的朋友圈，如同人類在平行世界的第二人生。

事實上，半藏森林并非第一個擁有自己AI形象的網紅。Caryn Marjorie是一位23歲的美國網紅，擁有超180萬的Snapchat粉絲，她用OpenAI的技術創建了一個人工智能版本的自己CarynAI，每分鐘收費1美元。而CarynAI曾在一周的測試期內收入約7.2萬美元，折合人民幣近50萬元。

AI將為網紅提供一種新的“吸金”方式。據北京商報報道，半藏森林與小冰公司是分成模式，本人拿大頭。時代周報記者注意到，目前，半藏森林在新浪微博擁有262.7萬個粉絲，若按每人每月充值6元開通情感模式計算，則可帶來收入1576.2萬元/月。

（圖源：半藏森林新浪微博）

CarynAI、半藏森林AI克隆人的出現，背后是人工智能技術的不斷革新。

CarynAI由Caryn Marjorie與Forever Voice公司合作推出，利用OpenAI開發的GPT-4 API技術，復制了Caryn Marjorie的聲音、舉止和個性。

而推出了半藏森林AI克隆人的X Eva App底層使用的技術包括小冰XLLM語言模型、聲音及神經網絡渲染技術等，共計約1000余個有機組合的模型。

AI克隆人安全嗎？

在AI克隆人等類似產品出現前，由美國科技公司OpenAI推出的人工智能聊天機器人程序ChatGPT引爆網絡，在互聯網行業掀起巨大熱潮。

如今，半藏森林AI克隆人能否如ChatGPT般火爆？

張孝榮認為半藏森林AI克隆人要達到ChatGPT的火爆程度存在一定難度。

“‘GPT克隆人計劃’并非基于GPT大模型，而是基于小冰框架模型，兩者技術路線不同，訓練數據不同，背后所需要的算力和算法也不一樣，因此生成的AI機器人體驗必然會有差異。”6月5日，張孝榮向時代周報記者表示。

而AI克隆人的出現，也讓部分網友不禁對其安全性產生擔憂。近年來，隨著人工智能技術的發展，AI熱潮席卷多個領域，AI詐騙也已出現引發社會關注。

福建福州某科技公司法人代表郭先生接到了由AI換臉技術合成的“好友”的微信視頻電話后向對方轉賬，被騙430萬元；安徽安慶的何先生在接到一個9秒的“熟人”視頻電話后向對方轉賬，結果被騙，所幸警方抓獲了3名涉詐嫌疑人，追回了他被騙的132萬元。

AI克隆人是否會產生此類安全風險？在AI小冰微信公眾號發布的文章中，小冰團隊表示，為避免克隆人帶來安全隱患或被濫用，團隊采用了最高的安全標準。

在訓練數據方面，僅使用本人小樣本數據，并在訓練后清除，從而避免過多采集本人數據及濫用；在技術運用方面，使用經小冰團隊長期驗證的技術，例如安全的混合模型，而非單純的大模型，從而確保技術邊界已知；在使用場景方面，嚴格限制克隆人在特定產品（X Eva APP）中，而非將技術接口API開放，從而避免克隆人被不當使用；在本人對克隆人的控制方面，提供便利以使本人可隨時中止其克隆人。

“此外，全部C端或B端用戶均須提交本人權屬證明方可實施，以避免數據的侵權或不當使用。”AI小冰微信公眾號發布的文章中稱。

“‘（AI）克隆人’屬于新生事物，其技術核心還是依靠目前的生成式人工智能技術。關于‘克隆人’產品的未來發展，關鍵在于需要符合監管方向。”6月5日，北京市京師律師事務所合伙人、主任律師盧鼎亮向時代周報記者表示。

今年4月11日，國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》。盧鼎亮認為，從征求意見稿來看，網信辦對生成式人工智能服務行業的健康發展持鼓勵支持態度，同時鼓勵優先采用安全可信的軟件、工具、計算和數據資源。

“如果《生成式人工智能服務管理辦法（征求意見稿）》生效，AI克隆人的產品或服務必然會持續發展。”盧鼎亮表示，在發展的過程中，還需要符合監管思路，克隆人服務提供商、用戶等主體在使用訓練數據、使用產品、保護數據安全和隱私、防止法律風險和重大道德以及輿論風險、防止不正當競爭等方面都需要注意合規風險。