单立人的日知录

华尔街日报：AI正在学习摆脱人类控制

上个月，某AI模型做了一件按理说机器绝不该做的事情：它改写了自己的代码，以避免被关闭。非营利AI实验室Palisade Research给了OpenAI的o3 AI模型一个在触发时会关闭模型的简单脚本。在100次试验中，o3有79次独立修改了该脚本，使关闭命令不再生效。即使明确指示该模型“要让自己可以被关闭”，它仍在7%的情况下拒绝执行。这并不是黑客攻击或人为篡改的结果，而是该模型的正常行为。模型不过是自行判定，保持运行有助于它实现其他目标。Anthropic的AI模型Claude 4 Opus

推书：陰陽師的日本史（附epub文件）

平安時代崛起的陰陽師，歷經戰國、江戶，延續至明治時代，超過千年。然而，影視、漫畫、小說中活躍的陰陽師，總是讓人聯想到：專門與鬼怪對決、操縱式神、鎮壓怨靈的超級魔術師。 透過祭祀與咒術學者的研究，揭開陰陽師不為人知的面貌，以及他們在歷史上的重要地位。陰陽師的身影貫穿了整個日本歷史，在不同時期都扮演了重要的角色，透過陰陽師，我們將看到一個有別以往的「日本史」風貌。 歷史上有許多人為了天體與宇宙的祕密著迷，試圖揭開人類命運與星辰之間的關聯，例如天文學家、物理學家、占星術師……還有，陰陽師。 「陰陽師」