Dynamic Programming and Reinforcement Learning (動態規劃和強化學習)

• Course objective: This course introduces dynamic decision-making under uncertainty, with an emphasis on dynamic programming and reinforcement learning. Drawing on applications in business and engineering, students will learn key theories and algorithms for solving multi-stage decision problems, both with and without explicit models of the environment. Assignments and a final project provide practical experience in problem formulation, algorithm evaluation, and Python-based implementation.

Nice talks on AI, geopolitics, optimization, SCM, and more

Vivek Farias and Jason Acimovic, Channel Fulfillment Problem Optimization, INFORMS, 2019.

一些常聽的 Podcast 節目和培養英文聽力的方法

一些常聽的 Podcast 節目 (*)，適合坐車、(讓眼睛) 休息、睡前、或運動時聽 (Some frequently listened-to podcasts (*) suitable for listening while traveling, giving your eyes a rest, before bed, or during exercise.) 

• Acquired (You could look at its transcript using iPhone.)

AI Alignment

Articles: 

• 李珊珊，「從中學就開始培養 AI 天才？」前美國奧數主教練羅博深：這讓我脊背發涼，知識分子，2026.6.23 (Prof. Po-Shen Loh) (new)

知識分子：您的意思是，在高中階段就對 AI 人才進行針對性的超前培養，太早了？
羅博深：不只是太早的問題，而是這種「純技術導向」的教育結構本身就存在致命缺陷。
如果一個孩子從高中起就進入純理科的軌道，每天只跟演算法、模型和程式碼打交道，從來沒有讀過小說，從來沒有在具體的文學語境裡理解人類複雜的現實，不懂道德約束與同理心，那麼當他掌握了最尖端的技術力量，他可能會在無意間對整個社會造成無法挽回的傷害。
一個人如果擁有龐大的科技力量，卻對它的邊界和人文影響完全不了解，他根本不應該去接觸這些核心技術。這就像核武器一樣。
所以，每當我看到一個因為過早分軌、在知識結構裡完全缺失人文的理工科學生，我都會擔憂：他真的不應該繼續做前沿科技研究了。我們已經走到了一個技術極有可能危及全人類的節點，如果一個人的教育結構是這樣一條腿長、一條腿短的狀態，他就不應該被允許繼續往這條路上走。

知識分子：您曾提到，面對來自 AI 的挑戰，孩子們需要更加「Thoughtful」，能具體解釋一下嗎？

羅博深：我習慣用英文原詞來定義它，翻譯成「深思熟慮」之類的，並不太準確。

Thoughtful 的人有兩個核心特質。第一，有共情能力，體貼周到，真心希望讓別人快樂——不只是父母和朋友，也包括陌生人，這才是真正的利他精神。第二，肯真正地去思考——他們喜歡「理解」事物，而不只是「會做」。有些學生考試能拿高分，但只是機械地照著方法做，並不理解背後的邏輯。我要找的是那種喜歡用自己的獨立思維想清楚一件事、不滿足於別人給定的標準答案的人。

對人和對問題都有洞察，只要具備這兩點，一個人在未來會成長得很好。

• Medha Bankhwal, Ankit Bisht, Michael Chui, Roger Roberts, and Ashley van Heteren, AI for social good: Improving lives and protecting the planet, McKinsey, 2024.
• Yoshua Bengio et al., Managing extreme AI risks amid rapid progress, Science, 20 May 2024, Vol 384, Issue 6698, pp. 842-845 (arXiv)
• Jiaming Ji et al., AI Alignment: A Comprehensive Survey, arXiv:2310.19852 (website)
• Jack Stilgoe, Technological risks are not the end of the world, Science, 18 Apr 2024, Vol 384, Issue 6693.

中原隨筆 (My days at CYCU)

在台南住了20幾年，因為種種因素，來到中原大學任教。懷念台南的好天氣、上下班不太塞車、和美食。秉持共好的精神，紀錄我在中原的所見所聞。

• 商業分析實驗室 (Business Analytics Laboratory)
• 指引 (Guides)，論文報告 (Group meeting)
• 新課：Dynamic Programming and Reinforcement Learning (動態規劃和強化學習)，Nonlinear Optimization (非線性最佳化)

作業研究期末報告

優秀作品 (內容和投影片製作)

• 戴維萱、彭彥智、蔣咏錡、鍾定豊、黃郁潔，冷凍食品配送車輛路徑問題的最佳化模型(2026 春作業研究 (下)，學科競賽版本)
• 林昱綺、李昀諺、嚴振瑋、許耀倫、蕭瑋萱，結合蟻群演算法之物流配送路徑最佳化研究 (2026 春作業研究 (下)，學科競賽版本)
• 胡嘉豪、陳昱安、彭琬婷、呂仲皓，醫院護理人員排班最佳化之應用 (2026 春作業研究 (下)，學科競賽版本)

Use LLM to learn *** and its impact

Research and development

• Marina Favaro and Jack Clark, When AI builds itself, Anthropic (new)
• As of May 2026, more than 80% of the code we merge into Anthropic’s codebase was authored by Claude.
• In the second quarter of 2026, the typical engineer was merging 8× as much code per day as they were in 2024.
• On the most open-ended tasks, Claude’s success rate reached 76% in May 2026, up 50 percentage points in six months.
• In this world, the pace of progress in AI development becomes determined entirely by the availability of compute (or the speed of discovering various efficiencies in algorithmic training or inference) for AI systems. Humans play a substantially diminished role in their development, likely moving most of our effort towards oversight, validation, and verification of an expanding “virtual lab” run by AI systems. We expect that systems capable of automated AI research and development would have skills that would transfer to the rest of science, allowing them to begin to revolutionize other fields.
• Dimitris Bertsimas and Georgios Margaritis, Robust and Adaptive Optimization under a Large Language Model Lens, arXiv:2501.00568. 

Summarized AI information from Stanford HAI and IEEE Spectrum

Want to understand the global AI landscape? These reports are fantastic for staying updated on state-of-the-art trends. I highly recommend them to all my students, especially for doing research and job interview prep.

Stanford HAI, The 2026 AI Index Report

Eliza Strickland, 12 Graphs That Explain the State of AI in 2025 Stanford’s AI Index tracks performance, investment, public opinion, and more, IEEE Spectrum, 07 Apr 2025

• Stanford HAI, The 2025 AI Index Report

Eliza Strickland, The Top 10 AI Stories of 2024, IEEE Spectrum, 31 Dec 2024.

作業研究競賽題目

Please cite this webpage if you use the material/method in this blog. Thank you. (如果您使用本部落格中的資料/方法，請註明此來源網頁。謝謝。)

• Some papers/information for idea generation or implementation

資料科學相關研究所和職涯準備

基礎知識：工業系必修課程 

• 資料科學：領域知識 (智慧製造，量化投資，行銷等等)，數學，資訊科技 
• 如果不會寫 for loop 和 function：自學 Python (每一講有作業)
• 很棒的免費課程：CS50's Introduction to Programming with Python (Malan at Harvard), Mathematics for Machine Learning and Data Science (at Coursera)
• 發展和待遇：機器學習，AI 工程師，最佳化演算法，optimization，量化交易 (方法)，智慧製造演算法，作業研究 (台達電，薪水，奇點無限 )，資料科學家
• 謝謝庭煜

上：

• 核心：IE623G 機器學習，IC258D 資料結構 (查怡老師)，CS361L 資料庫系統 
• 庭煜跟我念 4 + 1，修資料結構，拿到全班第一名，系上還提供一萬元的獎金。大四也有修資料庫系統，和此文章中許多難的課程，加上努力，所以研究做得好。據我所知，只有他聽進去我的建議。
• 數學：MA305G 離散數學，MA202 高等微積分(一)，MA306G 數值分析
• 資訊科技：IE440G 系統模擬 (包含數學和領域知識)，IE250D 網路原理與應用，IE302G 製造聯網整合技術
• 領域知識
• 作業管理 (含智慧製造)：IE238G 電腦輔助設計與製造等等
• 量化交易：FA319 財務管理(一)，FA295E 金融市場，FA082G 投資學等等
• 行銷：BA245 行銷管理學，BA336 網路行銷，IU209G 消費者行為 (和 IT911D 二選一) 等等

下：

• 核心：IE326G 人工智慧導論，IE371G 實驗設計，EL602L 計算機演算法
• 數學：MA202 高等微積分(二)，MA203 微分方程(一)
• 資訊科技：MA405M 圖論演算法，IE582G 視覺系統
• 領域知識
• 作業管理 (含智慧製造)：IE431G 電腦整合製造，IE527G 物聯網與大數據於智慧製造應用 等等
• 量化交易：FA320 財務管理 (二)，FA011 金融科技，FA323 區塊鏈與加密貨幣，FA447 期貨與選擇權等等
• 行銷：IT911D 消費者行為等等

中原大學 x 台積電半導體智慧製造學程。

預備研究生 (4 + 1) 

• 獎學金和支援
• 節省一年時間。
• 學校：
• 歷年平均成績系排名在前 30% 者，發給獎學金貳萬元整。獎學金於學生就讀碩士班一年級依學期分 2 次發给。
• 全人榮譽獎，全人標竿獎。
• 系上：
• 歷年平均成績系排名在前 20% 者，發給獎學金十萬元整。
• 參與國外國際研討會與競賽之報名費、交通費、住宿費與生活費，至多兩萬元。
• 商業分析實驗室 (Business Analytics Laboratory)：論文。
• 人少，老師 (每週) 單獨討論。學生的光，老師看得見。
• 根據經驗，班排不是一個絕對的指標。重點在於想要 (投入時間) 改變自己。
• 可詢問庭煜，準時畢業且有良好的研究成果。建議從三下開始；庭煜從三下準備校外機器學習競賽、暑假實習和我做研究。
• Guides for students in Business Analytics Laboratory (實驗室學生指引)：修課。
• Nice quality to have: Enjoy learning and coding (or willing to), think independently, willing to share and help
• 表現優良，老師將提供研究助理費。

資訊

• 同學的問題：我們 (工業系) 從事軟體開發和資工系的差別？
• 我：如果想要從事軟體開發的 (高薪) 工作，量化學科的基礎 (例如機統、作業研究)、流程和系統的思維 (例如生產計劃與管制、品質管制、人因工程)、和商管的知識背景 (例如經濟學、會計)，是工業系的優勢。只要加上軟體系統開發需要的課程，例如資料結構、資料庫、(資管) 系統分析與設計 (開放式課程)、演算法、物件導向分析與設計、作業系統、離散數學等等，就可如虎添翼。工業系畢業學長姐，目前 (2023) 擔任純網銀的董事長和台北市資訊局副局長，就是最好的例證。
• 舉例說明工業系的優勢：線上購物定價的需求函數和最佳化，資訊系統的人機介面 (可以利用機統、實驗設計、機器學習做進階分析)，熱門售票活動中的 (軟體系統) 瓶頸等等。
• 曾子軒，旺宏吳敏求：AI 時代與其學程式，懂應用數學才是業界最想要人才，遠見，2023-11-10
• 一方面感念母校栽培，一方面從個人經驗中認知到統計學，甚至是人工智慧的重要，吳敏求因此效法黑石集團 (Blackstone Group) 創辦人蘇世民 (Stephen Schwarzman) 捐贈麻省理工學院蘇世民運算學院 (MIT Schwarzman College of Computing，簡稱 MIT 運算學院) 的作法，捐贈成大設置敏求智慧運算學院。
• 數學邏輯和程式語言的邏輯是相通的。
• Brian Christian and Tom Griffiths, Algorithms to Live By: The Computer Science of Human Decisions, William Collins, 2017. 甘錫安譯，決斷的演算：預測、分析與好決定的 11 堂邏輯課，行路，2017

The coming wave

Mustafa Suleyman and Michael Bhaskar, The Coming Wave: Technology, Power, and the Twenty-first Century's Greatest Dilemma, Crown, September 5, 2023

洪慧芳譯，控制邊緣：未來科技與全球秩序的抉擇，感電出版，2024

Some books and information on machine learning and AI

General introduction (without math)

• 簡禎富，工業3.5：台灣企業邁向智慧製造與數位決策的戰略，天下雜誌，2019
• Alex J. Gutman and Jordan Goldmeier, Becoming a Data Head: How to Think, Speak, and Understand Data Science, Statistics, and Machine Learning, Wiley, 2021.

工業工程總結實踐

建議

作業與資訊 (Homework and Information)

Tabular foundation model

Hollmann, N., Müller, S., Purucker, L. et al. Accurate predictions on small data with a tabular foundation model. Nature 637, 319–326 (2025). https://doi.org/10.1038/s41586-024-08328-6 (Code)

The most-cited papers of the twenty-first century

Helen Pearson, Heidi Ledford, Matthew Hutson & Richard Van Noorden, Exclusive: the most-cited papers of the twenty-first century: A Nature analysis reveals the 25 highest-cited papers published this century and explores why they are breaking records, Nature, 15 April 2025. (Supplementary information)

Papers in AI:

作業研究和機器學習

課程

• 作業研究 (上): 3.8 迴歸，11.2 迴歸，12.3.1 類神經
• Google Scholar: generative ai optimization
• 作業研究 (下): 2 Robust Optimization (穩健最佳化)，3 適應穩健最佳化，5 資料驅動的報童模型
• Applications in generative AI: diffusion probabilistic models 
• Dmytro Kuzmenko, Denoising diffusion probabilistic models
• Lilian Weng, What are Diffusion Models?
• Dimitris Bertsimas and Georgios Margaritis, Robust and Adaptive Optimization under a Large Language Model Lens, arXiv:2501.00568.
• 最佳化和機器學習：

  機器學習和作業研究的奇妙結合

The Batch by A. Ng

weekly summary of AI and more by a. Ng. Free subscription and enjoy reading/Listening like I  do.

• 
  
• 
  
• 
  
• 
  
• issue 309: Inside Walmart’s AI App Factory (Walmart is no. 1 company in revenue.
• )

• Large scale system: The system aggregates data generated by 240 million customers and 2 million store personnel, feeding applications that streamline operations among 100,000 suppliers, 150 distributors, and 10,000 retail venues in 19 countries.

雷鋒網，年終收藏，吳恩達盤點 2020 年度 AI 熱門事件，2020 年 12 月 31 日

世界經濟論壇 2025 年未來就業報告

World Economic Forum, The Future of Jobs Report 2025,  7 January 2025.

Technological change, geoeconomic fragmentation, economic uncertainty, demographic shifts and the green transition – individually and in combination are among the major drivers expected to shape and transform the global labour market by 2030. The Future of Jobs Report 2025 brings together the perspective of over 1,000 leading global employers—collectively representing more than 14 million workers across 22 industry clusters and 55 economies from around the world—to examine how these macrotrends impact jobs and skills, and the workforce transformation strategies employers plan to embark on in response, across the 2025 to 2030 timeframe.

張國鈞、張曉琪、張艾琦，2025年WEF未來工作報告，國科會科技發展觀測平台，2025/04/22

Foundations of Computer Vision

Antonio Torralba, Phillip Isola, and William Freeman, Foundations of Computer Vision, The MIT Press, 2024.

作者是三位 MIT 的教授。如果你想了解電腦視覺 (Computer vision) 相關研究，甚至機器學習、研究方法，大力推荐。我有空就翻一下，增加對整個領域的了解，每次都有驚喜，很神奇的書。例如

Reinforcement learning is enough to reach general AI

David Silver, Satinder Singh, Doina Precup, and Richard S. Sutton, Reward is enough, Artificial Intelligence, Volume 299, October 2021, 103535.

In this article we hypothesise that intelligence, and its associated abilities, can be understood as subserving the maximisation of reward. Accordingly, reward is enough to drive behaviour that exhibits abilities studied in natural and artificial intelligence, including knowledge, learning, perception, social intelligence, language, generalisation and imitation. This is in contrast to the view that specialised problem formulations are needed for each ability, based on other signals or objectives. Furthermore, we suggest that agents that learn through trial and error experience to maximise reward could learn behaviour that exhibits most if not all of these abilities, and therefore that powerful reinforcement learning agents could constitute a solution to artificial general intelligence.