ChatGPT造假印度身份證,AI濫用再引關(guān)注
秋葉援 / 2025-04-07 13:3334032前一陣刮起的“吉卜力模仿秀”還歷歷在目,大家譴責(zé)OpenAI利用宮崎駿或吉卜力工作室的作品訓(xùn)練大模型,但網(wǎng)絡(luò)上卻梗圖不斷。
現(xiàn)在,這股風(fēng)已經(jīng)開始“歪樓”了,由ChatGPT生成的Aadhaar卡終于讓人們開始嚴(yán)肅對(duì)待此事。

如果你認(rèn)為這張Aadhaar卡的風(fēng)格還有吉卜力的影子,那接下來將讓你大跌眼鏡。拋開人物的身份不談,至少從肉眼上看,已經(jīng)達(dá)到以假亂真的程度。

簡(jiǎn)單來說,Aadhaar卡就是印度的身份證,由印度唯一身份識(shí)別局(UIDAI)頒發(fā),現(xiàn)在卻被GPT-4o的圖像生成功能濫用。此事一出,網(wǎng)絡(luò)上聲音也很快分成兩個(gè)陣營(yíng)。
正方認(rèn)為,GPT-4o的圖像生成功能只是“照貓畫虎”,類似Aadhaar卡這樣的身份ID都有防偽系統(tǒng),不會(huì)造成實(shí)際影響;反方則認(rèn)為,哪怕只是看起來逼真,也足夠讓別有用心的人利用,況且,隨著AI系統(tǒng)迭代,未來偽造身份將變得十分容易。

根據(jù)現(xiàn)在的情況看來,此事還在發(fā)酵中,而且似乎沒有要停下來的意思。最新消息是,ChatGPT的濫用已經(jīng)不僅限于Aadhaar卡,還有印度的另外一張PAN卡,這張卡由所得稅部門發(fā)行。
毫無疑問,ChatGPT可以輕松生成假的Aadhaar和PAN卡,也必然可以偽造其他國(guó)家的身份信息,這將是一個(gè)嚴(yán)重的安全風(fēng)險(xiǎn)。

根據(jù)人力資源分析公司IDfy的首席商務(wù)官解釋,“Aadhaar是一個(gè)相對(duì)容易解決的案例,因?yàn)槲谋竞腿四樞畔⒍伎梢愿鶕?jù)后端系統(tǒng)進(jìn)行核對(duì)。但其他身份證卻比較麻煩,比如印度的PAN卡,該卡的信息在政府?dāng)?shù)據(jù)庫中沒有人臉數(shù)據(jù)。”

說起不需要人臉識(shí)別的票據(jù),ChatGPT的濫用已經(jīng)可以輕松覆蓋到假的收據(jù)和處方,只需要通過簡(jiǎn)單的編輯,這種不需要嚴(yán)格審核的票據(jù)將極容易被偽造。
正所謂矛和盾要同時(shí)發(fā)展,過去想要偽造一張圖片需要有專業(yè)的圖片處理技術(shù),比如熟練使用Photoshop這類軟件。現(xiàn)在,只需要用語言敘述,就可以生成以假亂真的圖片,現(xiàn)實(shí)情況是“矛已經(jīng)足夠鋒利”,需要在盾上下功夫了。
ChatGPT造假印度身份證,AI濫用再引關(guān)注














滬公網(wǎng)安備 31010702005758號(hào)
發(fā)表評(píng)論注冊(cè)|登錄