AI換臉只是小兒科,這家公司用AI造了4個工程師
陳伊莉 / 何渝婷編譯
2020-03-11 12:05

(示意圖/取自pixabay)

商業社會,弄虛作假屢見不鮮。而近日一家西班牙創業公司身上,發生的一次利用AI造假事件,讓那些融資、業績、財務數據造假在創新性上都黯然失色。

互聯網國際西洋棋棋盤製造商REGIUM,疑似使用GAN合成了四個虛擬工程師,以下六人圖中,只有Delgado和Balcells兩人確有其人。 

除了製造「人造人」,這家公司的主打產品「自動國際西洋棋棋盤」,也被多個網路知名國際西洋棋社群發現影片造假,目前公司在群眾募資網站Kickstarter的項目已被暫停。

REGIUM是一個騙局嗎?

REGIUM是一家位於西班牙的互聯網國際西洋棋棋盤製造商,2019年12月,他們在YouTube上發表了一款叫作REGIUM的棋盤演示影片,開始獲得西洋棋圈的關注。

按照同類硬體創業公司的套路,REGIUM一邊上群眾募資網站Kickstarter募資,另一邊也在網路知名國際西洋棋社群Chess.com、Chess24.com打廣告,宣傳產品。

這段期間也有不少論壇用戶對此表示期待,從它2月底在Kickstarter開始進行募資,到3月2日被喊停,不到10天的時間,就獲得58位支持者、33111美元募款。

但也就是上月開始,該團隊逐漸被產品造假、影片造假等議論包圍。YouTube上播放量超過4萬的產品介紹影片,率先引發了西洋棋玩家對這家公司的質疑。

REGIUM稱,他們的自動棋盤是高科技棋盤,用到了AI、自動追蹤技術等,用戶移動棋子是快速、無聲的,可以將棋盤狀態與各種線上西洋棋APP同步,與人遠程下棋,還能即時載入更多棋類遊戲。

而它的原理,是在棋盤的每個坐標點裝上固定電磁鐵,連接著APP,用戶可以通過手機操縱對應的棋子。事實上,這也不是第一個電子棋盤,在此之前還有過一款名叫Square Off的類似產品。

線上西洋棋平台Lichess的開發者,率先對影片提出質疑:棋子在棋盤上自動移動的鏡頭,很可能是使用定格動畫製作軟體stop motion做的。破綻出在騎士這個棋子,在影片不同處總是發生變化,其實就是背景在騎士被挪動後出現的空缺。另外,整個影片中,完全沒有真人玩家入鏡,對方分析是一旦有人入鏡,那麼下一幀很難與上一幀保持一致。

REGIUM對此的回應是,公司根本不擅長製作影片,拍攝影片時出現了一些問題,於是才後期編輯處理。據稱,他們給一些質疑者,用手機錄了一段完整未經處理的影片。

而隨後,Chess.com表示,可能不僅是影片,就連產品也是假的。商業發展部主任Nick Barton調查後表示,展示影片中的棋盤,是由西班牙一家有50多年歷史的棋盤製造商Rechapados Ferrer製作的,該公司一位負責人表示,影片中的棋盤看得出並未再加工,而當前的組件並不支持影片所展示的技術。

目前Chess.com和Chess24.com,都已發文宣布,終止與REGIUM的商務合作。

人造工程師

影片、產品存疑,還趕上群眾募資,西洋棋網友繼續挖,然後發現這個公司的開發團隊成員的臉都是假的!

官網「About US」列出6位工程師的照片、名字和大頭照,Chess.com、Chess24.com、Lichess.org三家考證表示,其中大概只有兩個是真人,其餘4位很有可能是用GAN生成的人造人,用的就是this person does not exist.com這個網站的功能。一個側面印證是,圖片資訊都是1024x1024、96DPI、24位、JIF格式,缺少任何標題資訊。

Chess.com採訪了網站的創始人Phil Wang,他認為那四個人的照片存在失真,具有GAN生成的人造人照片的特點。「根據我的經驗,眼鏡周圍扭曲失真,背景也有點假,我還看出來他們似乎用了輝達的模型。」另外,他還指出,這些人的照片在互聯網其它任何地方都搜索不到。

在被曝光後,REGIUM官網已刪除6位工程師照片,似乎更印證了他們的心虛。

而REGIUM在發給外媒Motherboard的電子郵件中,否認了這些說法,他們辯解稱是因為受到各種非議,成員擔心職業生涯受到影響才撤下照片。但除此之外,並未提供任何證據能證明,其開發人員是真實存在的人。

this person does not exist.com是國際上小有名氣的造臉網站,使用也非常簡單,點擊進入,每次刷新都會生成一張普通或漂亮的臉蛋,但是他/她根本不存在於世界上。

有網友形容該網站是,「很有趣,但沒有什麼用」。大多數人打開它確實也就是圖個新鮮,但沒想到有公司竟然想出如此「創意」的想法。

現在,我們一起從互聯網的記憶中搜尋一下。2015年,教皇方濟各訪美期間,一個絕妙的「抽桌布」戲法影片,迅速紅遍全美乃至全球,只見他在向聖壇禮拜後,抬手將桌布一抽,桌上物品一點沒亂。這應該是網路上第一例,引發廣泛關注的AI合成「人造人」事件。沒錯,這個影片就是造假的,據說教皇本人後來看到後,並不是很高興。

教皇的影片和this person does not exist.com背後的技術,就是基於生成對抗網路(GAN),這是機器學習中相對較新的概念,第一次出現是在2014年,Ian Goodfellow等人發表了論文《對抗式生成網路》。GAN通過搜集名人臉部數據集,學習生成人造臉部圖像。

2017年,「潘多拉的盒子」打開。Reddit一位用戶Deepfakes把《神力女超人》女主角Cal Gadot的臉,嫁接到一個成人電影女星身上;2019年初,「楊冪換臉朱茵黃蓉」的影片紅遍網路,同年,陌陌推出了一款「ZAO」換臉影片

技術本是無知無覺的工具,有人陷入色情影片AI換臉疑雲,也有人拿AI應用於醫療診斷、公益救助,是造福還是造假,全在於使用者的本心。

本文為雷鋒網授權刊登,原文標題為「AI 換臉只是小兒科,這家公司用 AI 造了 4 個工程師

👇第一手消息傳送門!!!👇

📍Knowing粉專:https://www.facebook.com/KnowingAPP/

📍幣特財經粉專:https://www.facebook.com/Bitnance/

📍鍶科技粉專:https://www.facebook.com/鍶科技SRMEDIA-104147567732998/

📍幣特財經社團:https://www.facebook.com/groups/bitnance/

📍鍶科技telegram:https://t.me/srtechmedia

📍幣特財經telegram:https://t.me/bitnancevip