《太空歌剧院 》(Théâtre D'opéra Spatial), 使用人工智慧生成的影像
生成式人工智慧 (或稱生成式AI 、產生式AI ;英語:Generative artificial intelligence 、Generative AI 、GenAI 、GAI )是一種人工智能 系統,能夠產生文字、圖像或其他媒體以回應提示工程 [ 1] [ 2] ,比如ChatGPT 。產生模型學習輸入數據的模式和結構,然後產生與訓練數據相似但具有一定程度新穎性的新內容,而不僅僅是分類或預測數據[ 3] 。用於處理生成式人工智慧的最突出框架包括生成对抗网络 和基于转换器的生成式预训练模型 [ 4] [ 5] 。
基於Transformer模型 的深度 神經網路 ,特別是大語言模型 (LLM) 的改進,使得2020年代初期出現了生成式人工智慧系統的人工智能熱潮 。其中包括ChatGPT 、Copilot 、Gemini 和LLaMA 等聊天機器人 ;Stable Diffusion 、Midjourney 和DALL-E 等文本到图像 人工智慧影像生成系統;以及Sora 等文字轉影片生成系統。[ 6] [ 7] [ 8] [ 9] OpenAI 、Anthropic 、Microsoft 、Google 和Baidu 等公司以及許多規模較小的公司都已開發出生成式人工智慧模型。[ 1] [ 10] [ 11]
生成式人工智慧在藝術、寫作[ 12] 、軟體開發、醫療保健、金融、遊戲、客戶服務,[ 13] 、行銷[ 14] 和時尚[ 15] 等各行各業都有潛在的應用。 然而,也有人擔心產生式人工智能可能會被濫用,包括肆無忌憚地使用有版權的材料來訓練生成式人工智慧,以及製造假新聞 和深伪技术 來欺騙和操縱人們,以及大規模取代人類工作 ,目前正在討論法律規範,包括歐盟 的《人工智能法案 》(英語:Artificial Intelligence Act, AI Act )。[ 16] [ 17] 與有效加速主義 (英語:effective Accelerationism, e/acc )等科技思想的關係也被提出。[ 18]
歷史
早期歷史
自創立以來,該領域的研究人員就人類心智的本質以及創造具有類似人類智慧的人工生物的後果提出了哲學和倫理上的爭論;自古以來,神話、小說 和哲學 都曾探討過這些問題。[ 19] 自動化藝術的概念至少可以追溯到古希臘文明 的自動機 ,在古希臘文明中,代达洛斯 (Daedalus) 和亚历山大的海伦 (Hero of Alexandria) 等發明家被描述為設計出能夠書寫文字、發出聲音和演奏音樂的機器。[ 20] [ 21] 創造性自動化的傳統在歷史上蓬勃發展,以19世紀初瑞士工程師亨利·梅拉代 (Henri Maillardet) 設計的梅拉代自動機 (Maillardet Automaton)就是一例。[ 22] 自俄羅斯數學家安德烈·马尔可夫 (Andrey Markov) 在20世紀初提出马尔可夫链 以來,马尔可夫链 長期以來一直被用來建立自然語言模型。[ 23] [ 24] 马尔可夫 在1906年發表了第一篇相關論文,並使用马尔可夫链 分析了小說《叶甫盖尼·奥涅金 》 (Eugeny Onegin) 中元音和輔音的模式。马尔可夫链 一旦在文字语料库 上學習完成,就可以用來當作概率文字產生器。[ 25] [ 26]
人工智能學術
人工智慧學術學科是在1956年於達特茅斯學院 (Dartmouth College) 舉辦的达特矛斯会议 上成立的,並在此後的幾十年間經歷了數次進步與樂觀的浪潮。[ 27] 人工智慧研究始於1950年代,作品包括 Computing Machinery and Intelligence (1950) 和1956年Dartmouth Summer Research Project on AI 。自1950年代起,藝術家和研究人員開始使用人工智能創作藝術作品。到了1970年代早期,藝術家哈羅德·科恩 開始創作並展出由AARON 所創作的生成式人工智慧作品,AARON 是科恩為了生成繪畫而創作的電腦程式。[ 28]
生成神經網路(2014-2019)
上圖:影像分類器 ,一個使用判別 目標訓練的神經網路的範例。下圖:文本到图像生成模型 ,一個使用生成 目標訓練的網路的範例。
自從機器學習 領域誕生以來,它既使用了判别模型 也使用了生成模型 來建模和預測資料。自2000年代後期以來,深度學習 的出現促進了影像分類 、語音辨識 、自然語言處理 等任務的進展與研究。在這個時代,神經網路 通常被作為判別模型 進行訓練,由於生成建模的難度,這導致了它們在生成模型建模方面的應用受限。[ 29]
2014年,变分自编码器 和生成對抗網絡 等進步產生了第一個實用的深度神經網絡,該網絡能夠針對圖像等複雜數據學習生成模型 (而非判別模型 )。這些深度生成模型是第一個不僅輸出影像的類別標籤而且輸出整個影像的模型。
2017年,Transformer 網路使生成式模型相較於較舊的長短期記憶 (Long-Short Term Memory) 模型有了進步,[ 30] 從而在2018年推出了第一個基于转换器的生成式预训练模型 (GPT),即GPT-1 。隨後在2019年,GPT-2 展示了作為基礎模型 在無監督的情況下泛化到許多不同任務的能力。[ 31]
在此期间引入的新生成模型 允许使用无监督学习 或半监督学习来训练大型神经网络,而不是典型的判别模型 的监督学习 。無監督學習 消除了人類手動標籤資料的需要,允許訓練更大的網路。[ 32]
生成式人工智慧熱潮 (2020-)
AI產生的影像已變得更先進。
2020年3月,由一位匿名的麻省理工學院 研究員所創造的15.ai ,是一個免費的网络应用程序 ,可以使用最少的訓練資料,產生令人信服的角色語音。 [ 33] 該平台被認為是第一個在網路迷因 和內容創作中普及AI語音克隆(音訊深度偽造)的主流服務,影響了語音AI技術 的後續發展。[ 34] [ 35]
2022年末,ChatGPT 的公開發佈徹底改變了生成式人工智能在通用文本任務中的可及性和應用。[ 36] 該系統能夠進行自然對話 、產生創意內容 、協助編碼以及執行各種分析任務,吸引了全球的關注,並引發了有關人工智能對工作 、教育和創造力 的潛在影響的廣泛討論。[ 37]
2023年3月,GPT-4 的發布代表著生成式人工智能能力的又一次躍進。來自微軟研究院 的一個團隊有爭議地認為,它 「可以合理地被視為通用人工智慧 (AGI)系統的早期版本(但仍不完整)」。[ 38] 然而,這項評估受到其他學者的質疑,他們認為截至2023年,生成式人工智能「仍遠未達到「一般人類智慧」的基準」。[ 39] 2023年晚些時候,Meta 發表了ImageBind ,這是一個結合了多種模式的人工智能模型,包括文字、影像、視訊、熱資料、3D資料、音訊和動作,為更身歷其境的生成式人工智能應用鋪路。[ 40]
2023年12月,谷歌 (Google) 推出Gemini (语言模型) ,這是一種多模式AI模型,共有四種版本: Ultra、Pro、Flash 和 Nano。[ 41] 該公司將Gemini Pro整合到其Bard聊天機器人 中,並宣佈計劃推出由更大的 Gemini Ultra 機型驅動的「Bard Advanced」。[ 42] 2024年2月,谷歌 將 Bard和Duet AI統一為Gemini品牌,在Android 上推出行動應用程式,並將服務整合至iOS 上的Google應用程式。[ 43]
2024年3月,Anthropic 發布了Claude 3 系列大型語言模型,其中包括Claude 3 Haiku、Sonnet和Opus。[ 44] 這些模型在各種基準測試中都表現出了顯著的能力提升,其中Claude 3 Opus 的表現明顯優於OpenAI 和Google 的領先模型。[ 45] 2024年6月,Anthropic 發布了Claude 3.5 Sonnet,與更大的Claude 3 Opus相比,其性能有所提升,特別是在編碼、多步驟工作流程和圖像分析等領域。[ 46]
AI (粉紅色) 和生成式AI (綠色) 的私人投資。
根據人工智慧和分析軟體公司SAS 和科爾曼·帕克斯研究公司 (Coleman Parkes Research) 的調查,中國 已經成為生成式人工智能應用的全球領導者,83%的中國受訪者使用該技術,超過54%的全球平均水平和65%的美國比率。中國在該領域的智慧財產 發展進一步證明了這一領導地位,一份聯合國 報告顯示,從2014年到2023年,中國實體申請了超過38,000項生成式人工智能專利 ,在專利申請量上大幅超越美國。[ 47]
模态
生成式人工智能系统是通过将无监督或自监督机器学习 应用于数据集来构建的。生成式人工智能系统的功能取决于所使用的数据集的模式或类型。生成式人工智能可以是单模态的,也可以是多模态的;单模态系统仅接受一种类型的输入,而多模态系统可以接受多种类型的输入。[ 48] 例如,OpenAI 的 GPT-4 的一种版本接受文本和图像输入。[ 49]
文本
基于单词或单词标记训练的生成式 AI 系统包括 GPT-3、LaMDA、LLaMA、BLOOM、GPT-4 等(请参阅大型语言模型列表)。 它们能够进行自然语言处理、机器翻译和自然语言生成,并且可以用作其他任务的基础模型 。
图像
由Stable Diffusion 根据文本提示“a photograph of an astronaut riding a horse
”生成的图像
制作高质量的视觉艺术是生成式人工智能的一个突出应用。[ 50]
音樂
歌詞 的音訊深度偽造已經產生,例如歌曲Savages就使用AI來模仿饒舌歌手杰斯 (Jay-Z) 的歌聲。音樂創作人的樂器和歌詞擁有版權,但他們的聲音尚未受到再生人工智能的保護,這引起了藝術家是否應該從音訊deepfakes中取得版稅的爭論。[ 51]
許多AI音樂產生器已經被創造出來,可以使用文字詞組、音乐类型 選項以及重复 的小節 和旋律庫來產生。[ 52]
視訊
Sora 生成的視訊,提示詞Borneo wildlife on the Kinabatangan River
以註解視訊為基礎訓練的生成式人工智能可以產生時間上連貫、細緻且逼真 的視訊片段。範例包括OpenAI 的Sora 、Runway 的Gen-1和Gen-2[ 53] 以及Meta Platforms的Make-A-Video。[ 54]
法律與法規
在美國 ,包括OpenAI 、Alphabet 和Meta 在內的一群公司在2023年7月與拜登政府 簽署了一份自願協議,為人工智能產生的內容加上水印。[ 55] 2023年10月,第14110號行政命令應用《國防生產法 》,要求所有美國公司在訓練某些高影響力的AI模型時,必須向聯邦政府報告資訊。[ 56] [ 57]
在歐盟 ,建議中的《人工智能法 》包括要求披露用於訓練生成式人工智能系統的受版權保護材料,並對任何人工智能生成的輸出內容進行標示。[ 58] [ 59]
在中國 ,中國網絡空間管理局 推出的《人工智能生成服務管理暫行辦法》規範任何面向公眾的人工智能生成。它包括對生成的圖像或視頻進行水印的要求、對訓練數據和標籤質量的規定、對個人資料收集的限制,以及生成式人工智能必須「堅持社會主義核心價值觀」的指導方針。[ 60] [ 61]
版權
有版權內容的訓練
ChatGPT 和Midjourney 等生成式人工智能系統是在大型、公開可用的資料集上進行訓練的,這些資料集包含了受版權保護的作品。AI 開發者認為這種訓練受到合理使用的保護,而著作權人則認為這侵犯了他們的權利。[ 62]
合理使用訓練的支持者認為,這是一種轉換性的使用,並不涉及向大眾提供著作權作品的複本。批評者則認為,像Midjourney 之類的圖像產生器可以製造出幾乎相同的某些版權圖像副本,而且產生式人工智慧程式會與其訓練的內容競爭。
人工智能產生內容的版權
另一個問題是人工智慧產生的作品是否有資格獲得著作權保護。美國著作權局 已經裁定,人工智慧在沒有人為投入的情況下所創造的作品不能取得著作權,因為這些作品缺乏人為作者的身分。[ 63] 不過,該局也已開始接受公眾意見,以決定這些規則是否需要針對生成式人工智慧加以改進。[ 64]
關注
生成式人工智慧的發展已引起政府、企業和個人的關注,導致抗議、法律行動、要求暫停人工智慧實驗,以及多國政府的行動。在2023年7月聯合國安全理事會 的簡報會中,联合国秘书长 安东尼奥·古特雷斯 (António Guterres) 表示「生成式人工智慧在規模上具有巨大的善惡潛力」,人工智慧可能會「為全球發展注入動力」,並在2030年前為全球經濟貢獻$10到$15兆美元 ,但其惡意使用「可能會造成可怕程度的死亡與破壞、廣泛的創傷,以及無法想像規模的深度心理傷害」。[ 65]
工作崗位流失
一名參加2023年美國作家協會罷工的糾察員。雖然不是最優先的事項,但2023年美国编剧协会大罢工 的要求之一是「有關使用 (生成式) AI 的法規」。[ 66]
從人工智慧發展的早期開始,ELIZA 的創造者约瑟夫·维森鲍姆 (Joseph Weizenbaum) 及其他人士就一直在爭論,考慮到電腦與人類之間的差異,以及定量計算與定性、價值判斷之間的差異,那些可以由電腦完成的任務實際上是否應該由電腦來完成。[ 67] 2023年4月,據報導,圖像生成AI已導致中國70%的電子遊戲插畫師職位流失。[ 68] [ 69] 2023年7月,語音生成AI的發展促成了2023年好莱坞劳资纠纷 。美國電影演員協會 (Screen Actors Guild) 主席法蘭·卓雪 (Fran Drescher) 在2023年SAG-AFTRA大罷工期間宣稱,「人工智慧對創意專業構成生存威脅 」。 [ 70] 語音生成AI已被視為對配音演員領域的潛在挑戰。[ 71] [ 72]
AI與全球代表性不足族群的就業問題之間的交集,仍然是一個重要的層面。雖然AI有望提升效率並獲得技能,但這些族群對於工作轉移和有偏見的招募程序的憂慮仍然存在,快公司 (Fast Company) 的調查也概述了這一點。為了善用人工智慧創造更公平的社會,前瞻性的步驟包括減少偏見、提倡透明度、尊重隱私權與同意權,以及接納多元團隊與道德考量。策略包括將政策重點轉移到法規、包容性設計,以及教育的個人化教學潛力上,以達到利益最大化,傷害最小化。[ 73]
種族與性別偏見
生成式AI模型可以反映並放大基礎資料中存在的任何文化偏误 。例如,語言模型可能會假設醫生和法官是男性,而秘書或護士是女性,如果這些偏見在訓練資料中很常見的話。[ 74] 同樣地,如果在有種族偏見的資料集上進行訓練,以「一張 CEO 的照片」為文字提示的圖像模型可能會不成比例地產生白人男性CEO的圖像。[ 75] 我們嘗試了許多減輕偏差的方法,例如改變輸入提示和重新加權訓練資料。[ 76]
深度偽造
深伪技术 (Deepfakes) (「深度學習 」"deep learning" 與「偽造」"fake"的混成詞 [ 77] ) 是人工智能產生的媒體,利用人工神經網路 ,將現有圖像或視訊中的人物換成其他人的肖像。[ 78] 深伪技术 因其在深伪技术名流色情視頻 、復仇式色情 、假新聞 、钓鱼式恶作剧 、健康谣言 、金融詐騙和秘密的外國选举操控 干擾中的使用而引起了廣泛的關注和關注。[ 79] [ 80] [ 81] [ 82] [ 83] [ 84] [ 85] 這引起了業界和政府的回應,以偵測和限制其使用。[ 86] [ 87]
2023年7月,事實檢查公司Logically發現,流行的生成式人工智慧模型Midjourney 、DALL-E 2 和Stable Diffusion 在受到提示時會產生似是而非的假消息圖像,例如美國选举操控 舞弊和穆斯林婦女支持印度的印度教民族主義 印度人民党 的圖像。[ 88] [ 89]
2024年4月,一篇論文建議使用區塊鏈 (分散式賬本 技術)來促進「人工智慧開發與使用的透明度、可驗證性與分散性」。[ 90]
聲音深度偽造
有使用者濫用軟體,以名人、公職人員和其他知名人士的語音風格來產生具爭議性的聲明,這引起了人們對語音生成式人工智慧的道德憂慮。[ 91] [ 92] [ 93] [ 94] [ 95] [ 96] 作為回應ElevenLabs等公司已聲明,他們將通過保障措施和身份驗證 ,努力減少可能的濫用情況。[ 97]
人工智慧產生的音樂 也衍生出關注與狂熱。用來克隆聲音的軟體也被用在知名音樂家的聲音上,創造出模仿他們聲音的歌曲,獲得極高的知名度與批評。[ 98] [ 99] [ 100] 類似的技術也被用來創作已洩露或尚未發行的歌曲的改良品質或完整版本。[ 101]
生成式人工智慧也被用來創造新的數位藝人個性,其中有些藝人受到足夠的關注,並獲得主要唱片公司的唱片合約。[ 102] 這些虛擬藝人的開發者也因為他們的人格化程式而面對不少批評,包括「非人化」藝術形式的反彈,以及創造出對觀眾有不切實際或不道德訴求的藝人。[ 103]
網路犯罪
生成式人工智能創造逼真虛假內容的能力已被許多類型的網路犯罪所利用,包括網路钓鱼式攻击 。[ 104] 前Google 點擊欺詐 主管Shuman Ghosemajumder曾預言,雖然深伪技术 影片最初在媒體上引起轟動,但很快就會變得司空見慣,也因此變得更危險。[ 105] 此外,大型語言模型和其他形式的文字生成式人工智慧已廣泛地在電子商務網站上製造虛假評論,以提高評價。[ 106] 網路罪犯已建立專注於詐欺的大型語言模型,包括WormGPT和FraudGPT。[ 107]
最近在2023年所做的研究顯示,生成式人工智慧存在弱點,可被犯罪分子操控,繞過道德保障措施擷取有害資訊。該研究提出了在ChatGPT上完成的攻擊範例,包括越獄和反向心理 學。此外,惡意個人可以使用ChatGPT 進行社会工程学 攻擊和網路钓鱼式攻击 ,揭露這些技術有害的一面。[ 108]
依賴產業巨頭
訓練前沿的AI模型需要大量的運算能力。通常只有科技巨擘 (Big Tech) 才有財力進行這樣的投資。Cohere 和OpenAI 等小型新創公司最終分別向Google 和Microsoft 購買資料中心 的使用權。[ 109]
参见
參考資料
^ 1.0 1.1 Griffith, Erin; Metz, Cade. Anthropic Said to Be Closing In on $300 Million in New A.I. Funding . The New York Times . 2023-01-27 [2023-03-14 ] . (原始内容存档 于2023-03-14).
^ Lanxon, Nate; Bass, Dina; Davalos, Jackie. A Cheat Sheet to AI Buzzwords and Their Meanings . Bloomberg News. March 10, 2023 [March 14, 2023] . (原始内容存档 于2023-03-26).
^ Pasick, Adam. Artificial Intelligence Glossary: Neural Networks and Other Terms Explained . The New York Times. 2023-03-27 [2023-04-22 ] . ISSN 0362-4331 . (原始内容存档 于2023-09-01) (美国英语) .
^ 存档副本 . [2023-05-06 ] . (原始内容存档 于2023-06-05).
^ 存档副本 . [2023-05-06 ] . (原始内容存档 于2023-04-28).
^ Metz, Cade. OpenAI Plans to Up the Ante in Tech's A.I. Race . The New York Times. 2023-03-14 [2023-03-31 ] . ISSN 0362-4331 . (原始内容存档 于March 31, 2023) (美国英语) .
^ Thoppilan, Romal; De Freitas, Daniel; Hall, Jamie; Shazeer, Noam; Kulshreshtha, Apoorv. LaMDA: Language Models for Dialog Applications. January 20, 2022. arXiv:2201.08239 [cs.CL ].
^ Roose, Kevin. A Coming-Out Party for Generative A.I., Silicon Valley's New Craze . The New York Times . 2022-10-21 [2023-03-14 ] . (原始内容存档 于February 15, 2023).
^ Metz, Cade. OpenAI Unveils A.I. That Instantly Generates Eye-Popping Videos . The New York Times. 2024-02-15 [2024-02-16 ] . ISSN 0362-4331 . (原始内容存档 于February 15, 2024) (美国英语) .
^ The race of the AI labs heats up . The Economist. 2023-01-30 [2023-03-14 ] . (原始内容存档 于November 17, 2023).
^ Yang, June; Gokturk, Burak. Google Cloud brings generative AI to developers, businesses, and governments . 2023-03-14 [March 15, 2023] . (原始内容存档 于November 17, 2023).
^ Coyle, Jake. In Hollywood writers' battle against AI, humans win (for now) . AP News. Associated Press. 2023-09-27 [2024-01-26 ] . (原始内容存档 于April 3, 2024).
^ Brynjolfsson, Erik; Li, Danielle; Raymond, Lindsey R., Generative AI at Work (Working Paper), Working Paper Series, April 2023 [2024-01-21 ] , doi:10.3386/w31161 , (原始内容存档 于March 28, 2024)
^ Don't fear an AI-induced jobs apocalypse just yet . The Economist . 2023-03-06 [2023-03-14 ] . (原始内容存档 于November 17, 2023).
^ Harreis, H.; Koullias, T.; Roberts, Roger. Generative AI: Unlocking the future of fashion . [March 14, 2023] . (原始内容存档 于November 17, 2023).
^ Hendrix, Justin. Transcript: Senate Judiciary Subcommittee Hearing on Oversight of AI . techpolicy.press. May 16, 2023 [May 19, 2023] . (原始内容存档 于November 17, 2023).
^ Simon, Felix M.; Altay, Sacha; Mercier, Hugo. Misinformation reloaded? Fears about the impact of generative AI on misinformation are overblown . Harvard Kennedy School Misinformation Review. 2023-10-18 [November 16, 2023] . S2CID 264113883 . doi:10.37016/mr-2020-127 . (原始内容存档 于November 17, 2023) (美国英语) .
^ Jones, Rachyl. Marc Andreessen just dropped a 'Techno-Optimist Manifesto' that sees a world of 50 billion people settling other planets . Fortune . 2023-10-16 [2023-11-26 ] . (原始内容存档 于28 November 2023).
^ Newquist, H. P. The Brain Makers: Genius, Ego, And Greed In The Quest For Machines That Think. New York: Macmillan/SAMS. 1994: 45–53. ISBN 978-0-672-30412-5 (美国英语) .
^ Sharkey, Noel, A programmable robot from 60 AD 2611 , New Scientist, July 4, 2007 [October 22, 2019] , (原始内容存档 于January 13, 2018)
^ Brett, Gerard, The Automata in the Byzantine "Throne of Solomon" , Speculum, July 1954, 29 (3): 477–487, ISSN 0038-7134 , JSTOR 2846790 , S2CID 163031682 , doi:10.2307/2846790 .
^ kelinich. Maillardet's Automaton . The Franklin Institute. 2014-03-08 [2023-08-24 ] . (原始内容存档 于August 24, 2023) (英语) .
^ Grinstead, Charles Miller; Snell, James Laurie. Introduction to Probability . American Mathematical Society. 1997: 464 –466. ISBN 978-0-8218-0749-1 (美国英语) .
^ Bremaud, Pierre. Markov Chains: Gibbs Fields, Monte Carlo Simulation, and Queues . Springer Science & Business Media. 9 March 2013: ix. ISBN 978-1-4757-3124-8 . (原始内容存档 于23 March 2017).
^ Hayes, Brian. First Links in the Markov Chain . American Scientist. 2013, 101 (2): 92 [September 24, 2023] . ISSN 0003-0996 . doi:10.1511/2013.101.92 . (原始内容存档 于May 7, 2024).
^ Fine, Shai; Singer, Yoram; Tishby, Naftali. The Hierarchical Hidden Markov Model: Analysis and Applications. Machine Learning. 1998-07-01, 32 (1): 41–62. ISSN 1573-0565 . S2CID 3465810 . doi:10.1023/A:1007469218079 (英语) .
^ Crevier, Daniel. AI: The Tumultuous Search for Artificial Intelligence.. New York, New York: BasicBooks. 1993: 109. ISBN 0-465-02997-3 (美国英语) .
^ Bergen, Nathan; Huang, Angela. A Brief History of Generative AI (PDF) . Dichotomies: Generative AI: Navigating Towards a Better Future. 2023, (2): 4 [August 8, 2023] . (原始内容存档 (PDF) 于August 10, 2023).
^ Jebara, Tony. Machine learning: discriminative and generative 755 . Springer Science & Business Media. 2012.
^ Cao, Yihan; Li, Siyu; Liu, Yixin; Yan, Zhiling; Dai, Yutong; Yu, Philip S.; Sun, Lichao. A Comprehensive Survey of AI-Generated Content (AIGC): A History of Generative AI from GAN to ChatGPT. 7 March 2023. arXiv:2303.04226 [cs.AI ].
^ Radford, Alec; Wu, Jeffrey; Child, Rewon; Luan, David; Amodei, Dario; Sutskever, Ilya. Language models are unsupervised multitask learners (PDF) . OpenAI Blog. 2019.
^ Radford, Alec. Improving language understanding with unsupervised learning . OpenAI. June 11, 2018 [October 6, 2024] .
^ Chandraseta, Rionaldi. Generate Your Favourite Characters' Voice Lines using Machine Learning . Towards Data Science. January 21, 2021 [December 18, 2024] .
^ Temitope, Yusuf. 15.ai Creator reveals journey from MIT Project to internet phenomenon . The Guardian. December 10, 2024 [December 25, 2024] . (原始内容 存档于December 28, 2024).
^ Anirudh VK. Deepfakes Are Elevating Meme Culture, But At What Cost? . Analytics India Magazine. March 18, 2023 [December 18, 2024] . (原始内容存档 于December 26, 2024). While AI voice memes have been around in some form since '15.ai' launched in 2020, [...]
^ Lock, Samantha. What is AI chatbot phenomenon ChatGPT and could it replace humans? . The Guardian. 2022-12-05 [2023-03-15 ] (英国英语) .
^ Huang, Haomiao. How ChatGPT turned generative AI into an "anything tool" . Ars Technica. August 23, 2023 [September 21, 2024] .
^ Bubeck, Sébastien; Chandrasekaran, Varun; Eldan, Ronen; Gehrke, Johannes; Horvitz, Eric; Kamar, Ece; Lee, Peter; Lee, Yin Tat; Li, Yuanzhi; Lundberg, Scott; Nori, Harsha; Palangi, Hamid; Ribeiro, Marco Tulio; Zhang, Yi. Sparks of Artificial General Intelligence: Early experiments with GPT-4. March 22, 2023. arXiv:2303.12712 [cs.CL ].
^ Schlagwein, Daniel; Willcocks, Leslie. ChatGPT et al: The Ethics of Using (Generative) Artificial Intelligence in Research and Science. Journal of Information Technology. September 13, 2023, 38 (2): 232–238. S2CID 261753752 . doi:10.1177/02683962231200411 .
^ Meta open-sources multisensory AI model that combines six types of data . May 9, 2023 [March 14, 2024] .
^ Kruppa, Miles. Google Announces AI System Gemini After Turmoil at Rival OpenAI . The Wall Street Journal . December 6, 2023 [December 6, 2023] . ISSN 0099-9660 . (原始内容存档 于December 6, 2023).
^ Edwards, Benj. Google launches Gemini—a powerful AI model it says can surpass GPT-4 . Ars Technica. December 6, 2023 [December 6, 2023] .
^ Metz, Cade. Google Releases Gemini, an A.I.-Driven Chatbot and Voice Assistant . The New York Times. February 8, 2024 [February 8, 2024] .
^ Introducing the next generation of Claude . [4 March 2024] .
^ Nuñez, Michael. Anthropic unveils Claude 3, surpassing GPT-4 and Gemini Ultra in benchmark tests . Venture Beat. 2024-03-04 [2024-04-09 ] .
^ Pierce, David. Anthropic has a fast new AI model — and a clever new way to interact with chatbots . The Verge. 2024-06-20 [2024-06-22 ] (英语) .
^ Baptista, Eduardo. China leads the world in adoption of generative AI, survey shows . Reuters. 9 July 2024 [14 July 2024] .
^ A History of Generative AI: From GAN to GPT-4 . 21 March 2023 [2023-09-19 ] . (原始内容存档 于2023-06-10).
^ Explainer: What is Generative AI, the technology behind OpenAI's ChatGPT? . Reuters. March 17, 2023 [March 17, 2023] . (原始内容存档 于2023-03-30).
^ Epstein, Ziv; Hertzmann, Aaron; Akten, Memo; Farid, Hany; Fjeld, Jessica; Frank, Morgan R.; Groh, Matthew; Herman, Laura; Leach, Neil; Mahari, Robert; Pentland, Alex “Sandy”; Russakovsky, Olga; Schroeder, Hope; Smith, Amy. Art and the science of generative AI. Science . 2023, 380 (6650): 1110–1111. arXiv:2306.04141 . doi:10.1126/science.adh4451 .
^ Jay-Z's Delaware producer sparks debate over AI rights . [February 27, 2024] . (原始内容存档 于February 27, 2024).
^ 10 "Best" AI Music Generators (April 2024) - Unite.AI . October 19, 2022 [February 27, 2024] . (原始内容存档 于January 29, 2024).
^ Metz, Cade. Instant Videos Could Represent the Next Leap in A.I. Technology . The New York Times. April 4, 2023 [April 5, 2023] . (原始内容存档 于April 5, 2023) (英语) .
^ Wong, Queenie. Facebook Parent Meta's AI Tool Can Create Artsy Videos From Text . cnet.com. September 29, 2022 [Apr 4, 2023] . (原始内容存档 于April 5, 2023).
^ Bartz, Diane; Hu, Krystal. OpenAI, Google, others pledge to watermark AI content for safety, White House says . Reuters. July 21, 2023. (原始内容存档 于July 27, 2023).
^ FACT SHEET: President Biden Issues Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence . The White House. 2023-10-30 [2024-01-30 ] . (原始内容存档 于January 30, 2024).
^ Burt, Andrew. 3 Obstacles to Regulating Generative AI . Harvard Business Review. 2023-10-31 [2024-02-17 ] . ISSN 0017-8012 . (原始内容存档 于February 17, 2024).
^ EU AI Act: first regulation on artificial intelligence . European Parliament. 6 August 2023 [13 September 2024] (英语) .
^ Chee, Foo Yun; Mukherjee, Supantha. EU lawmakers vote for tougher AI rules as draft moves to final stage . Reuters. June 14, 2023 [July 26, 2023] . (原始内容存档 于July 27, 2023) (英语) .
^ Ye, Josh. China says generative AI rules to apply only to products for the public . Reuters. 2023-07-13 [2023-07-13 ] . (原始内容存档 于July 27, 2023).
^ 生成式人工智能服务管理暂行办法 . 2023-07-13 [July 27, 2023] . (原始内容存档 于July 27, 2023).
^ Generative Artificial Intelligence and Copyright Law . Congressional Research Service. LSB10922. 2023-09-29 [2024-01-30 ] . (原始内容存档 于March 22, 2024).
^ Brittain, Blake. AI-generated art cannot receive copyrights, US court says . Reuters . August 21, 2023 [January 19, 2024] . (原始内容存档 于January 20, 2024).
^ David, Emilla. US Copyright Office wants to hear what people think about AI and copyright . The Verge . August 29, 2023 [January 19, 2024] . (原始内容存档 于January 19, 2024).
^ Secretary-General's remarks to the Security Council on Artificial Intelligence . un.org. 18 July 2023 [27 July 2023] . (原始内容存档 于July 28, 2023).
^ The Writers Strike Is Taking a Stand on AI . Time . 4 May 2023 [11 June 2023] . (原始内容存档 于June 11, 2023) (英语) .
^ Tarnoff, Ben. Lessons from Eliza. The Guardian Weekly . 4 August 2023: 34–39.
^ Zhou, Viola. AI is already taking video game illustrators' jobs in China . Rest of World. 2023-04-11 [2023-08-17 ] . (原始内容存档 于August 13, 2023) (美国英语) .
^ Carter, Justin. China's game art industry reportedly decimated by growing AI use . Game Developer. 2023-04-11 [2023-08-17 ] . (原始内容存档 于August 17, 2023) (英语) .
^ Collier, Kevin. Actors vs. AI: Strike brings focus to emerging use of advanced tech . NBC News. July 14, 2023 [July 21, 2023] . (原始内容存档 于July 20, 2023). SAG-AFTRA has joined the Writer's(原文如此) Guild of America in demanding a contract that explicitly demands AI regulations to protect writers and the works they create. ... The future of generative artificial intelligence in Hollywood—and how it can be used to replace labor—has become a crucial sticking point for actors going on strike. In a news conference Thursday, Fran Drescher, president of the Screen Actors Guild-American Federation of Television and Radio Artists (more commonly known as SAG-AFTRA), declared that 'artificial intelligence poses an existential threat to creative professions, and all actors and performers deserve contract language that protects them from having their identity and talent exploited without consent and pay.'
^ Wiggers, Kyle. ElevenLabs' voice-generating tools launch out of beta . TechCrunch. 2023-08-22 [2023-09-25 ] . (原始内容存档 于November 28, 2023) (美国英语) .
^ Shrivastava, Rashi. ' Keep Your Paws Off My Voice': Voice Actors Worry Generative AI Will Steal Their Livelihoods . Forbes. [2023-11-28 ] . (原始内容存档 于December 2, 2023) (英语) .
^ Gupta, Shalene. Underrepresented groups in countries around the world are worried about AI being a threat to jobs . Fast Company. October 31, 2023 [December 8, 2023] . (原始内容存档 于December 8, 2023).
^ Rachel Gordon. Large language models are biased. Can logic help save them? . MIT CSAIL. March 3, 2023 [2024-01-26 ] . (原始内容存档 于January 23, 2024).
^ OpenAI. Reducing bias and improving safety in DALL·E 2 . OpenAI. 2022-07-18 [2024-01-26 ] . (原始内容存档 于January 26, 2024).
^ DALL·E 2 pre-training mitigations . OpenAI. 2022-06-28 [2024-01-26 ] . (原始内容存档 于January 26, 2024).
^ Brandon, John. Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise . Fox News. 2018-02-16 [2018-02-20 ] . (原始内容存档 于2018-06-15) (美国英语) .
^ Cole, Samantha. We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now . Vice. 24 January 2018 [4 May 2019] . (原始内容存档 于7 September 2019).
^ What Are Deepfakes & Why the Future of Porn is Terrifying . Highsnobiety. 2018-02-20 [2018-02-20 ] . (原始内容存档 于2021-07-14) (美国英语) .
^ Experts fear face swapping tech could start an international showdown . The Outline. [2018-02-28 ] . (原始内容存档 于2020-01-16) (英语) .
^ Roose, Kevin. Here Come the Fake Videos, Too . The New York Times. 2018-03-04 [2018-03-24 ] . ISSN 0362-4331 . (原始内容存档 于2019-06-18) (美国英语) .
^ Schreyer, Marco; Sattarov, Timur; Reimer, Bernd; Borth, Damian. Adversarial Learning of Deepfakes in Accounting. 2019. arXiv:1910.03810 [cs.LG ] (英语) .
^ Menz, Bradley. Health Disinformation Use Case Highlighting the Urgent Need for Artificial Intelligence Vigilance . JAMA Internal Medicine. 2024, 184 (1): 92–96 [4 February 2024] . PMID 37955873 . S2CID 265148637 . doi:10.1001/jamainternmed.2023.5947 . (原始内容存档 于February 4, 2024).
^ Chalfant, Morgan. U.S. braces for foreign interference in 2024 election . Semafor . March 6, 2024 [March 6, 2024] . (原始内容存档 于March 11, 2024).
^ Menn, Joseph. Russia, Iran use AI to boost anti-U.S. influence campaigns, officials say . The Washington Post. September 23, 2024 [September 23, 2024] . ISSN 0190-8286 . (原始内容存档 于September 24, 2024).
^ Join the Deepfake Detection Challenge (DFDC) . deepfakedetectionchallenge.ai. [2019-11-08 ] . (原始内容存档 于2020-01-12).
^ Clarke, Yvette D. H.R.3230 – 116th Congress (2019-2020): Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2019 . www.congress.gov. 2019-06-28 [2019-10-16 ] . (原始内容存档 于2019-12-17).
^ New Research Reveals Scale of Threat Posed by AI-generated Images on 2024 Elections . Logically . July 27, 2023 [July 6, 2024] . (原始内容 存档于October 3, 2023).
^ Lawton, Graham. Disinformation wars: The fight against fake news in the age of AI . New Scientist . 12 September 2023 [2024-07-05 ] (美国英语) .
^ Brewer, Jordan; Patel, Dhru; Kim, Dennie; Murray, Alex. Navigating the challenges of generative technologies: Proposing the integration of artificial intelligence and blockchain . Business Horizons. 2024-04-12, 67 (5): 525–535. ISSN 0007-6813 . doi:10.1016/j.bushor.2024.04.011 .
^ People Are Still Terrible: AI Voice-Cloning Tool Misused for Deepfake Celeb Clips . PCMag Middle East. 2023-01-31 [2023-07-25 ] . (原始内容存档 于December 25, 2023) (en-ae) .
^ The generative A.I. software race has begun . Fortune. [2023-02-03 ] . (原始内容存档 于March 25, 2023) (英语) .
^ Milmo, Dan; Hern, Alex. Elections in UK and US at risk from AI-driven disinformation, say experts . The Guardian. 2023-05-20 [2023-07-25 ] . ISSN 0261-3077 . (原始内容存档 于November 16, 2023) (英国英语) .
^ Seeing is believing? Global scramble to tackle deepfakes . news.yahoo.com. [2023-02-03 ] . (原始内容存档 于February 3, 2023) (美国英语) .
^ Vincent, James. 4chan users embrace AI voice clone tool to generate celebrity hatespeech . The Verge. January 31, 2023 [2023-02-03 ] . (原始内容存档 于December 3, 2023) (美国英语) .
^ Thompson, Stuart A. Making Deepfakes Gets Cheaper and Easier Thanks to A.I. . The New York Times. 2023-03-12 [2023-07-25 ] . ISSN 0362-4331 . (原始内容存档 于October 29, 2023) (美国英语) .
^ A new AI voice tool is already being abused to make deepfake celebrity audio clips . Engadget. January 31, 2023 [2023-02-03 ] . (原始内容存档 于October 10, 2023) (美国英语) .
^ Gee, Andre. Just Because AI-Generated Rap Songs Go Viral Doesn't Mean They're Good . Rolling Stone. 2023-04-20 [2023-12-06 ] . (原始内容存档 于January 2, 2024) (美国英语) .
^ Coscarelli, Joe. An A.I. Hit of Fake 'Drake' and 'The Weeknd' Rattles the Music World . The New York Times. April 19, 2023 [December 5, 2023] . (原始内容存档 于May 15, 2023).
^ Lippiello, Emily; Smith, Nathan; Pereira, Ivan. AI songs that mimic popular artists raising alarms in the music industry . ABC News. November 3, 2023 [2023-12-06 ] . (原始内容存档 于December 6, 2023) (英语) .
^ Skelton, Eric. Fans Are Using Artificial Intelligence to Turn Rap Snippets Into Full Songs . Complex. [2023-12-06 ] . (原始内容存档 于January 2, 2024) (美国英语) .
^ Marr, Bernard. Virtual Influencer Noonoouri Lands Record Deal: Is She The Future Of Music? . Forbes. [2023-12-06 ] . (原始内容存档 于December 4, 2023) (英语) .
^ Thaler, Shannon. Warner Music signs first-ever record deal with AI pop star . New York Post. 2023-09-08 [2023-12-06 ] . (原始内容存档 于December 15, 2023) (美国英语) .
^ Sjouwerman, Stu. Deepfakes: Get ready for phishing 2.0 . Fast Company . 2022-12-26 [2023-07-31 ] . (原始内容存档 于July 31, 2023).
^ Sonnemaker, Tyler. As social media platforms brace for the incoming wave of deepfakes, Google's former 'fraud czar' predicts the biggest danger is that deepfakes will eventually become boring . Business Insider. [2023-07-31 ] . (原始内容存档 于April 14, 2021) (美国英语) .
^ Collinson, Patrick. Fake reviews: can we trust what we read online as use of AI explodes? . The Guardian. 2023-07-15 [2023-12-06 ] . ISSN 0261-3077 . (原始内容存档 于November 22, 2023) (英国英语) .
^ After WormGPT, FraudGPT Emerges to Help Scammers Steal Your Data . PCMAG. [2023-07-31 ] . (原始内容存档 于July 31, 2023) (英语) .
^ Gupta, Maanak; Akiri, Charankumar; Aryal, Kshitiz; Parker, Eli; Praharaj, Lopamudra. From ChatGPT to ThreatGPT: Impact of Generative AI in Cybersecurity and Privacy . IEEE Access. 2023, 11 : 80218–80245. Bibcode:2023IEEEA..1180218G . ISSN 2169-3536 . S2CID 259316122 . arXiv:2307.00691 . doi:10.1109/ACCESS.2023.3300381 .
^ Metz, Cade. In the Age of A.I., Tech's Little Guys Need Big Friends . New York Times. July 10, 2023.