The-Embeddings

電子報來到第十期，每週都在選文(物)、K 論文、挑圖片，以及短文撰寫中度過。最有趣的是挑圖片的過程；最興奮的是收到同事的 email 或是 Slack message；最焦慮的是週一的發(截)稿日；最有成就感的是寫出一段簡潔明瞭的短文 (for dummies)。 ...

Paul McCartney says AI has enabled a ‘final’ Beatles song, BBC AI 正在讓披頭四再次團聚！ 多虧為披頭四紀錄片《Get Back》開發的技術，約翰．藍儂的聲音被從卡式錄音帶中取出與清理，並成為一張全新披頭四唱片的基礎。 ...

Ten Years of AI in Review 人工智慧每週都有新的進展，不管是研究、應用、新創或是企業級服務。如果我們研究這些發展，循著脈絡，挖掘出背後的技術堆疊，就能有一個可依靠的方法來得知其可能的優劣、限制與能耐。 ...

這一期分享了兩則與 Data 隱私以及 AI 侵權有關的資訊，一則來自環球音樂集團 (UMG)，另一則來自日本政府。但不論是 UMG 還是日本政府，都不是如文章所述的那樣單純 All in AI，全面擁抱 AI，而是既有的合作案的一個延伸，或是針對既有法規的不全做的一個修正。 ...

在過去的十年中，大型監督模型 (large supervised models) 在機器學習領域嶄露頭角，但是在 2020 年，大型預訓練模型 (large pretrained models) 成為了主導趨勢。預訓練模型是指事先在網際網路上學習各種不同的非結構化數據，例如文字、圖片和聲音。這些模型可以應用於很多不同的任務，比如閱讀、識別圖片和辨認聲音。 ...

Hi，你今天 LLM 了嘛？ ChatGPT 在去年 11 月底問世，一枝獨秀，連帶讓 LLM (Large Language Model) 成了一個 buzzword。幾個月後，有愈來愈多的應用與服務加入這場賽事：有採取小步快跑策略、擅長衝刺的短跑選手，像是幫國小國中生寫作業的 Socratic (致敬蘇格拉底) ；有擅長大規模賽、耐力見長的超馬跑者，如 Google PaLM 2 ；還有更多跟著跑，把領頭羊當配速員用，然後在後頭研究著可以在哪個彎道超車的 (參照 30 ChatGPT alternatives )。 ...

“Your job is (probably) safe from artificial intelligence” 是上一期《經濟學人》 的一長篇，它從經濟發展的歷史脈絡角度，包括經濟發展、工業革命、以及經濟學家的論點，指出這一波的 AI 熱潮可能被放大過多。另一方面，我們也開始受惠於 ChatGPT-like 的服務所帶來的便利，不管是草擬行銷文、客服應對、function docstring、或甚至是撰寫 test case。說 AI 對工作沒有影響，也與事實有違背。這也許是為什麼《經濟學人》的文章標題用了 “probably” 這個字眼。(原文 ) (David Chen 的中文摘要 ) ...

Google “We Have No Moat, And Neither Does OpenAI” AI 領域的研究與技術進展很快而且振奮人心（例如 Tesla 的電動車、OpenAI 的 ChatGPT），以它為首的第四次工業革命正在發生中。但就在上週，紐約時報報導有「AI 教父」之稱的 Geoffrey Hinton 結束了與 Google 十年的合作，他將更專注於 AI 對社會的威脅。Hinton 事後在推特上表示：「我離開了，這樣我在討論 AI 的危險時，才能不必考慮對 Google 的影響。Google 一直都對它的行為很負責任。」 ...