AI Alignment

Articles: 

• 李珊珊，「從中學就開始培養 AI 天才？」前美國奧數主教練羅博深：這讓我脊背發涼，知識分子，2026.6.23 (Prof. Po-Shen Loh) (new)

知識分子：您的意思是，在高中階段就對 AI 人才進行針對性的超前培養，太早了？
羅博深：不只是太早的問題，而是這種「純技術導向」的教育結構本身就存在致命缺陷。
如果一個孩子從高中起就進入純理科的軌道，每天只跟演算法、模型和程式碼打交道，從來沒有讀過小說，從來沒有在具體的文學語境裡理解人類複雜的現實，不懂道德約束與同理心，那麼當他掌握了最尖端的技術力量，他可能會在無意間對整個社會造成無法挽回的傷害。
一個人如果擁有龐大的科技力量，卻對它的邊界和人文影響完全不了解，他根本不應該去接觸這些核心技術。這就像核武器一樣。
所以，每當我看到一個因為過早分軌、在知識結構裡完全缺失人文的理工科學生，我都會擔憂：他真的不應該繼續做前沿科技研究了。我們已經走到了一個技術極有可能危及全人類的節點，如果一個人的教育結構是這樣一條腿長、一條腿短的狀態，他就不應該被允許繼續往這條路上走。

知識分子：您曾提到，面對來自 AI 的挑戰，孩子們需要更加「Thoughtful」，能具體解釋一下嗎？

羅博深：我習慣用英文原詞來定義它，翻譯成「深思熟慮」之類的，並不太準確。

Thoughtful 的人有兩個核心特質。第一，有共情能力，體貼周到，真心希望讓別人快樂——不只是父母和朋友，也包括陌生人，這才是真正的利他精神。第二，肯真正地去思考——他們喜歡「理解」事物，而不只是「會做」。有些學生考試能拿高分，但只是機械地照著方法做，並不理解背後的邏輯。我要找的是那種喜歡用自己的獨立思維想清楚一件事、不滿足於別人給定的標準答案的人。

對人和對問題都有洞察，只要具備這兩點，一個人在未來會成長得很好。

• Medha Bankhwal, Ankit Bisht, Michael Chui, Roger Roberts, and Ashley van Heteren, AI for social good: Improving lives and protecting the planet, McKinsey, 2024.
• Yoshua Bengio et al., Managing extreme AI risks amid rapid progress, Science, 20 May 2024, Vol 384, Issue 6698, pp. 842-845 (arXiv)
• Jiaming Ji et al., AI Alignment: A Comprehensive Survey, arXiv:2310.19852 (website)
• Jack Stilgoe, Technological risks are not the end of the world, Science, 18 Apr 2024, Vol 384, Issue 6693.

Use LLM to learn *** and its impact

Research and development

• Marina Favaro and Jack Clark, When AI builds itself, Anthropic (new)
• As of May 2026, more than 80% of the code we merge into Anthropic’s codebase was authored by Claude.
• In the second quarter of 2026, the typical engineer was merging 8× as much code per day as they were in 2024.
• On the most open-ended tasks, Claude’s success rate reached 76% in May 2026, up 50 percentage points in six months.
• In this world, the pace of progress in AI development becomes determined entirely by the availability of compute (or the speed of discovering various efficiencies in algorithmic training or inference) for AI systems. Humans play a substantially diminished role in their development, likely moving most of our effort towards oversight, validation, and verification of an expanding “virtual lab” run by AI systems. We expect that systems capable of automated AI research and development would have skills that would transfer to the rest of science, allowing them to begin to revolutionize other fields.
• Dimitris Bertsimas and Georgios Margaritis, Robust and Adaptive Optimization under a Large Language Model Lens, arXiv:2501.00568. 

失控的焦慮世代

鍾玉玨譯，失控的焦慮世代：手機餵養的世代，如何面對心理疾病的瘟疫，網路與書出版 ，2024

專題和論文的製作與報告 (tips for the final project and your thesis)

• (at the bottom) Avoid common phenomena, final written report (for your ppt content)
• (大學生) 重要任務

• 人生困境：

• 計算機程式補考後的人生 (1/2) 

• 我的方法：運動，音樂 (馬友友)，閱讀 (哲學，堅忍的挑戰，老莊)

• Tal Ben-Shahar, Happier: Learn the Secrets to Daily Joy and Lasting Fulfillment, McGraw Hill, 2007. (譚家瑜譯，更快樂：哈佛最受歡迎的一堂課，天下雜誌，2012)

如何選填大學志願

緣起：朋友念南一中理組的兒子要念大學，詢問我的意見，所以才準備了此檔案的大綱 (電子檔)。

聽到我描述 (相關) 電子產品中需要的機構設計和熱流問題，覺得挺有趣的。後來，他選擇了成大機械系。念完 6 年和尚學校的他，聯誼變成一個非常重要的考量因素。

歲月靜好

參加了數百次的系務會議，針對各種大大小小的提案和投票，每位老師都會拿到紙本說明，由主持人或系助理先朗讀條文內容，讓每位老師表達不同的看法和意見，再投票。有時候，遇到爭論不休的條文，一時之間老師們找不到共識，也不會強行表決；會議主席會裁決，再找時間討論。這就是民主的程序。

也曾擔任兩年的校預算委員會委員，每學期開會十多次，都會邀請提案的單位前來說明。因為年度預算有限，頂多是刪減預算，從來沒有將預算刪成負數。

什麼是『大學生』

(25/6/30) 今晚，真的是開眼界。讓我體驗到人生的另一個高點。

睡不著，想一下今晚和研究生討論的方法，第 16 章 Sampling Plans 的確是我們需要的。他是『大學生』。

(25/7/1) 2:30 am 還沒睡意，來寫部落格。

「工業系 許某教授」和同學的「道歉」

Dcard: 6 月 27 日 14:25

奉勸各位工業系學弟妹 遠離許某教授（相信大家已經知道是誰了） 

成績不公開 課也不上叫大家看影片 (1)

影片的音質我還以為在聽什麼考古檔案  

更扯的是 有時候影片還沒拍到 自己花10分鐘在台上講不知道什麼鬼 就要大家寫心得出來 請問學生會通靈是不是 

能退選就退選 能停修就停修 免得影響那些想出國 推甄的好學生 

自己爛就算了 還要拖別人下水 什麼心態啊  

由衷希望系上可以把他調走 好不容易新進那麼多老師了

世界經濟論壇 2025 年未來就業報告

World Economic Forum, The Future of Jobs Report 2025,  7 January 2025.

Technological change, geoeconomic fragmentation, economic uncertainty, demographic shifts and the green transition – individually and in combination are among the major drivers expected to shape and transform the global labour market by 2030. The Future of Jobs Report 2025 brings together the perspective of over 1,000 leading global employers—collectively representing more than 14 million workers across 22 industry clusters and 55 economies from around the world—to examine how these macrotrends impact jobs and skills, and the workforce transformation strategies employers plan to embark on in response, across the 2025 to 2030 timeframe.

張國鈞、張曉琪、張艾琦，2025年WEF未來工作報告，國科會科技發展觀測平台，2025/04/22

到高中介紹作業研究 (和適性教育、選填大學志願)

臺北市立陽明高級中學，作業研究，2023/11/30。適性教育、AI 和作業研究，2024/2/22。 (簽到和提問)

學生問題之回答

2024 ACM A.M. Turing Award

ACM A.M. Turing Award Honors Two Researchers Who Led the Development of Cornerstone AI Technology: Andrew Barto and Richard Sutton Recognized as Pioneers of Reinforcement Learning, New York, NY, March 5, 2025

Practical Engineering

Practical Engineering is all about infrastructure and the human-made world around us. It is hosted, written, and produced by civil engineer, Grady Hillhouse. We have new videos posted every first and third Tuesday, so please subscribe for updates.

人工智慧研究得到 2024 諾貝爾物理學和化學獎

2024 諾貝爾物理學獎新聞

朱敬一講社會科學

 朱敬一，朱敬一講社會科學，時報出版，2008

上冊《社會科學的源起背景》

中冊《法政經社的核心內容》

下冊《台灣社會的新世紀挑戰》

李琳山教授 信號與人生 (2019)

李琳山教授 信號與人生 (2019) (數位典藏，歷年的信號與人生 (在信號與系統下))

顏擇雅推薦書單

 顏擇雅：暑假到了，不知大家都推薦什麼書給高中生? 以下是我順手想到的十本：

1.《張忠謀自傳》上冊。推薦原因是下冊快出來了，還沒看上冊的應該快點看。而且這本把成長與學習都寫超好的。我們可以從中學習一位偉大策略思考者應該具備什麼樣的人文養成。

生成式人工智慧

李加祈，破2000人修課！台大文學院開AI課程，文組也要學為什麼？，遠見，2024-03-01

學習數學的四個層次：(3) 在許多行業的應用

學習數學的四個層次：(0) 如何學數學，(1) 代表具備基礎的知識與能力，(2) 邏輯推理和抽象思考的能力，(3) 在許多行業的應用，(4) 純粹滿足好奇心或求知慾。

2015/12/1 初稿，持續更新中。

一般性說明

• 數學是科學之母，科學則是工業的基礎，所以大學工學院的數理化課程總學分超過 1/3。可以參考如何選填大學志願。
• 應用在不同的領域 (理工商醫農、教育)，如財務工程、設計電腦、貨物產銷、工程師、使用統計學分析學習成效等等。
• 抽象的模式與思考的方式，適用於現在與未來的應用，以微分為例，物理學的距離微分是速度，經濟學中成本的微分是邊際成本，電子學的電荷微分是電流。也就是說，可以使用函數表示任何待解的問題，函數的微分便可以研究其變化和極值的情況，例如機器學習中，超參數 (hyperparameter) 的學習 。
• 基本的原則變動不大，微積分、機率和統計學、和線性代數已經有 200 年以上的歷史，可幫助未來的自我學習。許多人說學校學的東西，畢業後立即過時或沒用，我覺得很疑惑。大學只是基礎教育，必須不斷地學習新的東西，以因應產業和職務的變化；最近熱門的大數據 (big data) 和人工智慧 (artificial intelligence)，其數學基礎正是這些課程。
  

Genius Makers

Cade Metz, Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World, Dutton, 2021.

王曉伯譯，AI製造商沒說的祕密: 企業巨頭的搶才大戰如何改寫我們的世界?，時報文化，2022

A Practical End-to-End Inventory Management Model with Deep Learning

Meng Qi, Yuanyuan Shi, Yongzhi Qi, Chenxin Ma, Rong Yuan, Di Wu, Zuo-Jun (Max) Shen (2023) A Practical End-to-End Inventory Management Model with Deep Learning. Management Science 69(2):759-773. (Data and Python codes) 

We investigate a data-driven multiperiod inventory replenishment problem with uncertain demand and vendor lead time (VLT) with accessibility to a large quantity of historical data. Different from the traditional two-step predict-then-optimize (PTO) solution framework, we propose a one-step end-to-end (E2E) framework that uses deep learning models to output the suggested replenishment amount directly from input features without any intermediate step. The E2E model is trained to capture the behavior of the optimal dynamic programming solution under historical observations without any prior assumptions on the distributions of the demand and the VLT. By conducting a series of thorough numerical experiments using real data from one of the leading e-commerce companies, we demonstrate the advantages of the proposed E2E model over conventional PTO frameworks. We also conduct a field experiment with JD.com, and the results show that our new algorithm reduces holding cost, stockout cost, total inventory cost, and turnover rate substantially compared with JD’s current practice. For the supply chain management industry, our E2E model shortens the decision process and provides an automatic inventory management solution with the possibility to generalize and scale. The concept of E2E, which uses the input information directly for the ultimate goal, can also be useful in practice for other supply chain management circumstances.