隨著人工智能技術的普及，人工智能生成內容技術也就是AIGC技術正在改變社交媒體生態。有了創意，它能幫你生成文字；有了文字，它還能接著生成圖片，進而做出視頻。但是，本來是幫助提升創作效率的工具，卻被一些人拿來造假起號，通過AI批量生產虛假內容來積累粉絲。
記者調查發現，目前多個社交平臺上都出現大量“AI起號秘籍”相關內容，這些AI生成內容多以俊男靚女、育兒百科、健康養生為主，大都低俗獵奇。有些AI生成的人物形象能做到以假亂真，還有人傳授繞過平臺“AI打標”的經驗。
一旦起號成功，這些賬號就會隱藏AI引流內容，開始帶貨、賣課。有的賬號還被明碼標價放到賬號交易網站上，形成了一條“起號、轉型、轉賣”的灰色產業鏈。在這背后有哪些不容忽視的隱患？
一張外國面孔，用流利的中國話科普育兒知識，這樣的視頻你會多看兩眼嗎？某育兒短視頻賬號上，大量類似內容打著“外國幼兒教育專家”旗號輸出觀點。但是這看似專業的視頻里有不少說法都極端絕對，暗藏誤導風險。
實際上，這些所謂“外國專家”是AI生成的虛擬形象。在一堂AI數字人視頻教學課程中，這個育兒賬號是導師口中的成功起號案例：
導師：我們就是做的這種展現的形式，一個人物是AI數字人、虛擬人，不是真人，但是很像真人。不僅嘴動頭動，身體也在動。這個賬號，我們團隊的小伙伴已經做到了39萬粉絲，賣貨21萬的戰績。
打造一個優質自媒體賬號并非易事，從創意到文案腳本再到拍攝制作，每一個作品都需要創作者親力親為，通常會耗費大量時間。
現在，各大社交平臺上出現了大量“AI起號”相關分享，宣稱零門檻、易操作、漲粉快、可變現。
記者調查發現，這些起號教程教授的思路基本一致：僅需借助兩三個AI工具，按“文生圖、圖生圖、圖生視頻”的標準化流程，幾分鐘就能制作一段時長五秒的美女跳舞視頻，這些視頻中虛擬人動作雖然略有僵硬，但形象逼真。一位從業者表示，他的課程499元，內容包含從賬號搭建、視頻制作到內容變現的全流程一對一輔導。
一位主打“顏值博主人設”的博主告訴記者，自己選用了一張相貌平平的男生照片，AI工具在此基礎上生成了一張高顏值男生照片。對比前后照片，人物臉型發型、五官比例、皮膚質感都有了較大改變，衣著和環境也有一些改變，但記者在該內容評論區觀察發現，多數網友并未察覺這是AI生成的虛擬形象。
目前，各平臺已普遍升級AI內容識別系統，要求對AI生成作品進行顯著標注，這位博主告訴記者，自己花了900元學費學習AI起號技術，主要就是為了購買老師在AI工具中預配置的鏡像文件——用這些鏡像參數一鍵生成的虛擬人形象可以以假亂真，最大限度規避平臺的AI內容強制標注機制。
記者發現，如今不少AI虛擬人創作者為避免作品被平臺限流，會在發布時主動標注內容由AI生成。但各平臺也有一部分未主動標注的作品沒有被系統識別出來。有從業者坦言，隨著各平臺監測升級，“不標注等于高風險”：
從業者：保證不被系統檢測出就是沒法保證，我們只是說通過自己的一些維度的東西去減少被系統評為AI作品。因為目前來講人物視頻動起來的話，就是它篇幅（幅度）不能太大了，一大的話就很容易出現問題。假如突然哪一天被系統識別出來，讓你人臉識別，你識別不出來怎么辦，你這號不是廢了嗎？
記者調查了解到，AI賬號起號成功后大都會隱藏此前引流內容，改頭換面成為帶貨賬號；有的順勢打出“AI起號實戰”噱頭，將自身包裝成“成功案例”售賣起號課程；還有一部分賬號被明碼標價進行售賣。
實際上，在AI的加持下，起號的成本和門檻被降低，大量此類賬號進入了賬號交易市場。某賬號交易網站客服告訴記者，他們網站有不少可供選擇的AI起號賬號，價格相對于其他類型賬號更加便宜。
實際上，多數社交平臺明確禁止賬號轉賣。以記者在網站上咨詢的抖音賬號為例，抖音平臺在其服務協議和相關規則中就規定，抖音賬號僅限本人使用，禁止以任何形式贈予、借用、出租、轉讓、售賣或以其他方式許可他人使用該賬號。
對此，中國政法大學傳播法研究中心副主任朱巍表示：轉讓賬號法律風險是非常高的，這個賬號以前可能有一些違法違規的情況，這賬號以前有沒有銷售產品，一旦出現問題要承擔相關的責任。
當前，人工智能技術給人們生產生活帶來便利的同時，也帶來不少風險挑戰。為了促進人工智能健康發展，規范人工智能生成合成內容標識，近日，四部門聯合發布《人工智能生成合成內容標識辦法》，要求人工智能生成合成內容標識包括顯式標識和隱式標識。新規自2025年9月1日起施行。朱巍表示，新規正式落地后，此類亂象將得到遏制。
朱巍：顯式標識就是那些被編輯的音視頻、文檔等等，帶水印的，帶有明確提示的。那還有一種情況，就是第三方平臺生成的東西，有一些隱式標識。意味著什么呢？在肉眼上看不到它有任何標識，但是如果你放到像抖音、快手這樣的平臺上，在人工智能審核的時候，它會發現你生成的這個內容里面有這個隱式的標識。他以后這種再起號的時候，即便你做得再好，強制性的標記也會存在，很難做到以假亂真了。
隨著人工智能技術的普及，人工智能生成內容技術也就是AIGC技術正在改變社交媒體生態。有了創意，它能幫你生成文字；有了文字，它還能接著生成圖片，進而做出視頻。但是，本來是幫助提升創作效率的工具，卻被一些人拿來造假起號，通過AI批量生產虛假內容來積累粉絲。
記者調查發現，目前多個社交平臺上都出現大量“AI起號秘籍”相關內容，這些AI生成內容多以俊男靚女、育兒百科、健康養生為主，大都低俗獵奇。有些AI生成的人物形象能做到以假亂真，還有人傳授繞過平臺“AI打標”的經驗。
一旦起號成功，這些賬號就會隱藏AI引流內容，開始帶貨、賣課。有的賬號還被明碼標價放到賬號交易網站上，形成了一條“起號、轉型、轉賣”的灰色產業鏈。在這背后有哪些不容忽視的隱患？
一張外國面孔，用流利的中國話科普育兒知識，這樣的視頻你會多看兩眼嗎？某育兒短視頻賬號上，大量類似內容打著“外國幼兒教育專家”旗號輸出觀點。但是這看似專業的視頻里有不少說法都極端絕對，暗藏誤導風險。
實際上，這些所謂“外國專家”是AI生成的虛擬形象。在一堂AI數字人視頻教學課程中，這個育兒賬號是導師口中的成功起號案例：
導師：我們就是做的這種展現的形式，一個人物是AI數字人、虛擬人，不是真人，但是很像真人。不僅嘴動頭動，身體也在動。這個賬號，我們團隊的小伙伴已經做到了39萬粉絲，賣貨21萬的戰績。
打造一個優質自媒體賬號并非易事，從創意到文案腳本再到拍攝制作，每一個作品都需要創作者親力親為，通常會耗費大量時間。
現在，各大社交平臺上出現了大量“AI起號”相關分享，宣稱零門檻、易操作、漲粉快、可變現。
記者調查發現，這些起號教程教授的思路基本一致：僅需借助兩三個AI工具，按“文生圖、圖生圖、圖生視頻”的標準化流程，幾分鐘就能制作一段時長五秒的美女跳舞視頻，這些視頻中虛擬人動作雖然略有僵硬，但形象逼真。一位從業者表示，他的課程499元，內容包含從賬號搭建、視頻制作到內容變現的全流程一對一輔導。
一位主打“顏值博主人設”的博主告訴記者，自己選用了一張相貌平平的男生照片，AI工具在此基礎上生成了一張高顏值男生照片。對比前后照片，人物臉型發型、五官比例、皮膚質感都有了較大改變，衣著和環境也有一些改變，但記者在該內容評論區觀察發現，多數網友并未察覺這是AI生成的虛擬形象。
目前，各平臺已普遍升級AI內容識別系統，要求對AI生成作品進行顯著標注，這位博主告訴記者，自己花了900元學費學習AI起號技術，主要就是為了購買老師在AI工具中預配置的鏡像文件——用這些鏡像參數一鍵生成的虛擬人形象可以以假亂真，最大限度規避平臺的AI內容強制標注機制。
記者發現，如今不少AI虛擬人創作者為避免作品被平臺限流，會在發布時主動標注內容由AI生成。但各平臺也有一部分未主動標注的作品沒有被系統識別出來。有從業者坦言，隨著各平臺監測升級，“不標注等于高風險”：
從業者：保證不被系統檢測出就是沒法保證，我們只是說通過自己的一些維度的東西去減少被系統評為AI作品。因為目前來講人物視頻動起來的話，就是它篇幅（幅度）不能太大了，一大的話就很容易出現問題。假如突然哪一天被系統識別出來，讓你人臉識別，你識別不出來怎么辦，你這號不是廢了嗎？
記者調查了解到，AI賬號起號成功后大都會隱藏此前引流內容，改頭換面成為帶貨賬號；有的順勢打出“AI起號實戰”噱頭，將自身包裝成“成功案例”售賣起號課程；還有一部分賬號被明碼標價進行售賣。
實際上，在AI的加持下，起號的成本和門檻被降低，大量此類賬號進入了賬號交易市場。某賬號交易網站客服告訴記者，他們網站有不少可供選擇的AI起號賬號，價格相對于其他類型賬號更加便宜。
實際上，多數社交平臺明確禁止賬號轉賣。以記者在網站上咨詢的抖音賬號為例，抖音平臺在其服務協議和相關規則中就規定，抖音賬號僅限本人使用，禁止以任何形式贈予、借用、出租、轉讓、售賣或以其他方式許可他人使用該賬號。
對此，中國政法大學傳播法研究中心副主任朱巍表示：轉讓賬號法律風險是非常高的，這個賬號以前可能有一些違法違規的情況，這賬號以前有沒有銷售產品，一旦出現問題要承擔相關的責任。
當前，人工智能技術給人們生產生活帶來便利的同時，也帶來不少風險挑戰。為了促進人工智能健康發展，規范人工智能生成合成內容標識，近日，四部門聯合發布《人工智能生成合成內容標識辦法》，要求人工智能生成合成內容標識包括顯式標識和隱式標識。新規自2025年9月1日起施行。朱巍表示，新規正式落地后，此類亂象將得到遏制。
朱巍：顯式標識就是那些被編輯的音視頻、文檔等等，帶水印的，帶有明確提示的。那還有一種情況，就是第三方平臺生成的東西，有一些隱式標識。意味著什么呢？在肉眼上看不到它有任何標識，但是如果你放到像抖音、快手這樣的平臺上，在人工智能審核的時候，它會發現你生成的這個內容里面有這個隱式的標識。他以后這種再起號的時候，即便你做得再好，強制性的標記也會存在，很難做到以假亂真了。
本文鏈接：http://m.9105763.cn/v-146-50.htmlAI賬號成起號新套路，多手段繞過“AI打標”背后有哪些隱患
相關文章：
當科技遇上休閑生活 或許你就能有一位電子跑步“搭子”06-11
唯美散文段落摘抄07-17
興泰電廠實習報告01-30
公司倉庫年終總結10-25
最新保安工作計劃08-27
車工個人工作總結(四篇)08-09
單位職工證明02-06
咖啡店創業策劃書10-05
房產代持協議09-13
出生醫學證明領取委托書09-07
德育實踐心得體會08-25
《明朝那些事兒》讀后感700字11-09
創新心得實驗室08-16
眼科醫生個人簡歷-個人簡歷07-17
媽媽寫給女兒的一封信12-31
觀察四年級上冊作文10-26
中學中秋節放假致家長的一封信09-21
難忘的美食節作文500字小學生作文07-23
2025年3月上海計算機一級成績查詢時間及成績查詢入口05-08
2024年9月山東計算機一級成績查詢時間及查分入口（11月中旬公布）10-14
萬圣節簡短文案10-26
小學心理教育黑板報素材10-26
個人網絡學習計劃09-13