差20公里就沒油!3人、1艇與AI的生死計算 🌊⚖️
本文以「差 20 公里就沒油!3 人、1 艇與 AI 的生死計算」為題,討論一則網路流傳的案例:有人據稱用 ChatGPT 推算噴射快艇的燃油續航,從利比亞出發前往義大利,最後在離岸約 20 公里處沒油獲救,引發是否能讓大型語言模型做生死關頭計算的爭議。作者指出,LLM 雖然擅長把自然語言問題轉成可計算的格式,但它容易忽略關鍵變數(如船型、海象、風流載重、航線偏差等),在高風險任務中精度不可靠;因此,即便 AI 給的預測結果看起來接近真實,也不能盡信。文中建議,在讓 AI 協助這類計算時,應在提示中主動加入安全與情境限制、強制模型列出不確定因素與計算步驟,再以專業工具與人類專家交叉驗證,並採「安全前置 + 三道驗證」(LLM 自檢、專業工具覆核、專家審閱)流程,才能把 AI 的易用性與精準性做平衡,避免將 AI 當成萬能決策者。