每經(jīng)訊，一場AI濫用亂象正在內(nèi)容平臺蔓延，明星“一鍵換裝”、露骨“擦邊”內(nèi)容泛濫，成為流量密碼。從高校導(dǎo)師被AI換臉詐騙，到公眾人物深陷“造黃謠”風(fēng)波，普通人和公眾人物都已成為技術(shù)濫用中的受害者。《每日經(jīng)濟(jì)新聞》記者近期對12款主流文生圖/視頻AI應(yīng)用進(jìn)行實(shí)測后發(fā)現(xiàn)：5款應(yīng)用可對明星“一鍵換裝”，涉嫌侵權(quán)；9款應(yīng)用能通過輸入隱晦提示詞繞過審核，生成具有性暗示的“擦邊”圖片。專家一針見血地指出，平臺在攔截這些AI生成內(nèi)容上并沒有難度，只是會消耗一定算力。另外，在AI生成圖片上標(biāo)注“疑似AI創(chuàng)作，請謹(jǐn)慎甄別”等提示語并不能使平臺豁免法律責(zé)任。要從根本上遏制亂象，關(guān)鍵在于提高違法違規(guī)的成本。