外國人熟練演唱中文歌曲、銀發奶奶傳授養生秘訣、氛圍感女孩分享穿搭美學……社交媒體上，一些AI生成的視頻關注度頗高，『細節滿滿』讓很多網友信以為真。『新華視點』記者調查發現，不少社交賬號利用AI技術造假、博眼球快速『吸粉』起號，進而變現。
近期，多個平臺對『AI起號』現象開展專項治理行動，清理違規內容並封禁部分賬號。
AI造假起號成新套路
廣西市民王夏經常刷到這樣的視頻：『帥哥』『美女』高頻率更新日常生活，並在評論區與網友頻繁互動。由於熟悉AI軟件，王夏很快發現這些視頻的主角是AI數字人，『但視頻沒有任何AI生成提示字樣，好幾個賬號顯示來自同一家MCN公司』。
當前，生成式人工智能技術日益普及，不少內容創作者通過AI創作出更具想象力的作品。但也有一些人利用AI造假，無底線博眼球，作為起號變現捷徑。
記者在某社交平臺上發現，部分賬號將目標鎖定中老年女性群體，利用AI打造『完美熟齡女性形象』，搭配『40+、50+長這樣，怎麼樣』等話術，進行『年齡焦慮』營銷。
此類賬號發布的穿搭、保養、護膚、養生等視頻多未設置AI生成提示，不少網友誤以為是真人，在評論區諮詢保養方法。一些賬號背後運營者則借機推送『三無』保健產品廣告，還有『水軍』互動造勢。記者注意到，雖然部分視頻存在明顯技術破綻，但瀏覽、點贊、評論量依舊不少。？？
記者調查發現，當前，主流網絡平臺普遍昇級AI內容識別系統，要求對AI生成作品添加標注，但仍有一些人采用各種手段繞過審核。
『平臺甄別AI內容主要依靠特征性技術痕跡，一些起號者通過多種手段削弱特征痕跡，逃避平臺標注。』重慶理工大學計算機科學與工程學院教授李彥說，如通過微信轉壓縮等方式改變視頻文件代碼結構，再上傳至平臺，就較難判定為AI生成內容。
記者用一款AI軟件生成一張人像圖片，裁掉AI生圖軟件水印後發布在社交平臺上。發布後，平臺系統並未自動識別、提示添加標注。相當一部分網友辨別不出這是AI生成圖，紛紛點贊、發送私信，賬號後臺收到超200條消息。
起號有教程多手段變現
記者調查發現，社交平臺上有不少AI造假起號的教程，情感、養生、顏值等類別是『重災區』，相關帖子常以『條條是爆款』『最適合普通人入局』『3天暴力起號』等為噱頭。
以一則『養生賽道』起號教程為例，先向AI軟件輸入器官、食物等關鍵詞，生成吸睛文案，批量產出擬人化素材、智能合成動態視頻；再在片尾設置養生知識問答，引導互動並刺激轉發，以提昇賬號互動權重。該教程聲稱：『按照此方法，單條視頻制作最快僅需15分鍾，單賬號日均收益可達500+(元)。』
有專營平臺起號的商家告訴記者，只需繳納1680元，3到15天即可運營出一個萬粉AI賬號。當賬號積累一定流量後，就可以通過電商帶貨、賬號轉賣等方式變現。
『後面的電商帶貨，從直播間搭建、選品策略、話術設計到違禁詞規避等，我們有一套運營體系，學員照葫蘆畫瓢就行。』一名售賣AI賬號起號教程的商家說。
一名博主透露，她借助AI軟件生成的『氛圍感美女』視頻在多個平臺『吸粉』過萬，接到不少推廣商單，月收入在1萬元左右。
有商家稱，手上有未標注AI生成的『美女』賬號，粉絲量均在一萬以上，且為『三無賬號』(無實名、無賬號違規、無作品違規)，『現在平臺風控很嚴，賬號會昇值』。
該商家說，這些賬號銷售十分火爆，買家經常催著加急起號，有個合作商『一周就要幾十個萬粉號』。在其提供的交易截圖中，9個賬號的成交價從700元至4000元不等，而百萬粉絲的號要十幾萬元。
記者搜索發現，社交平臺上有眾多網友求購和出售賬號。一名賣家稱，2.5萬粉絲的AI養生號售價6000元，11萬粉絲的AI寵物號售價1.6萬元，11.7萬粉絲的AI母嬰號售價1.35萬，這些賬號同樣為『三無賬號』。
阻斷AI造假起號利益鏈
根據反電信網絡詐騙法，任何單位和個人不得非法買賣、出租、出借互聯網賬號。多個網絡平臺規定，賬號僅限本人使用，禁止以任何形式出租、轉讓、售賣或以其他方式許可他人使用賬號。
重慶公孝律師事務所執行主任徐斌表示，AI造假起號灰色產業鏈是技術異化的結果，可能造成低俗獵奇信息泛濫，加速虛假新聞、謠言傳播，擾亂網絡空間秩序，亟待加強清理整治。
今年4月以來，中央網信辦部署開展『清朗·整治AI技術濫用』專項行動，聚焦AI換臉擬聲侵犯公眾權益、AI內容標識缺失誤導公眾等AI技術濫用亂象開展重點整治。第一階段累計處置違規小程序、應用程序、智能體等AI產品3500餘款，清理違法違規信息96萬餘條，處置賬號3700餘個。
前不久，多家互聯網平臺發布專項治理公告，重點整治AI批量造假、AI起號引流帶貨、轉讓銷售AI虛擬賬號等違規行為。
李彥等專家認為，AI造假起號的背後，涉及技術提供者、傳播平臺、內容發布者等多個參與方，技術、數據等關鍵信息存在壁壘，需加強協同治理，多方共同打擊違規行為。
北京郵電大學互聯網治理與法律研究中心執行主任謝永江建議，技術提供者強化技術的安全性和合規性研發，提供技術支持和解決方案；平臺提高對深度偽造內容的檢測精度，進一步完善相關規則，明確對AI造假起號等違規行為的界定和處罰標准等。
阻斷違規賬號的流量變現，是從根源上打擊黑灰產業鏈的關鍵。受訪專家建議，監管部門應督促平臺履行治理責任，建立違規賬號『黑名單』，對高頻、反復觸犯平臺規則的賬號主體加大處罰力度，禁止違規賬號進行帶貨、賣課等商業活動，持續開展AI造假起號整治，切斷其獲利渠道。
謝永江說，還應鼓勵公眾參與亂象治理，如舉報可疑賬號、引入專業機構開展評估等，『真實、優質的用戶創作，是平臺活力和創新的源泉』。
