深圳如何建立公司自己網(wǎng)站,泉州企業(yè)網(wǎng)站建站模板,wordpress數(shù)據(jù)多,虛擬主機網(wǎng)站建設過程過去2年#xff0c;整個行業(yè)仿佛陷入了一場參數(shù)競賽#xff0c;每一次模型發(fā)布的敘事如出一轍#xff1a;“我們堆了更多 GPU#xff0c;用了更多數(shù)據(jù)#xff0c;現(xiàn)在的模型是 1750 億參數(shù)#xff0c;而不是之前的 1000 億。” 這種慣性思維讓人誤以為智能只能在訓練階段…過去2年整個行業(yè)仿佛陷入了一場參數(shù)競賽每一次模型發(fā)布的敘事如出一轍“我們堆了更多 GPU用了更多數(shù)據(jù)現(xiàn)在的模型是 1750 億參數(shù)而不是之前的 1000 億?！边@種慣性思維讓人誤以為智能只能在訓練階段“烘焙”定型一旦模型封裝發(fā)布能力天花板就被焊死了。但到了 2025 年這個假設徹底被打破了。先是 DeepSeek-R1 證明了只要給予思考時間Open-weights 模型也能展現(xiàn)出驚人的推理能力。緊接著 OpenAI o3 登場通過在單個問題上消耗分鐘級而非毫秒級的時間橫掃了各大基準測試。大家突然意識到我們一直優(yōu)化錯了變量。技術突破點不在于把模型做得更大而在于讓模型在輸出結(jié)果前學會暫停、思考和驗證。這就是 Test-Time Compute測試時計算繼 Transformer 之后數(shù)據(jù)科學領域最重要的一次架構(gòu)級范式轉(zhuǎn)移。推理側(cè) Scaling Law比 GPT-4 更深遠的影響以前我們奉 Chinchilla Scaling Laws 為圭臬認為性能嚴格受限于訓練預算。但新的研究表明Inference Scaling訓練后的計算投入遵循著一套獨立的、往往更為陡峭的冪律曲線。幾項關鍵研究數(shù)據(jù)揭示了這一趨勢arXiv:2408.03314 指出優(yōu)化 LLM 的測試時計算往往比單純擴展參數(shù)更有效。一個允許“思考” 10 秒的小模型其實際表現(xiàn)完全可以碾壓一個瞬間給出答案但規(guī)模大 14 倍的巨型模型。實戰(zhàn)數(shù)據(jù)也印證了這一點。2025 年 1 月發(fā)布的 DeepSeek-R1其純強化學習版本在 AIME 數(shù)學基準測試中僅通過學習自我驗證Self-Verify得分就從 15.6% 暴漲至 71.0%引入 Majority Voting多數(shù)投票機制后更是飆升至 86.7%。到了 4 月OpenAI o3 在 AIME 上更是達到了驚人的 96.7%在 Frontier Math 上拿到 25.2%但代價是處理每個復雜任務的成本超過 $1.00。結(jié)論很明顯在推理階段投入算力的回報率正在超越訓練階段。新的“思考”格局到了 2025 年底OpenAI 不再是唯一的玩家技術路徑已經(jīng)分化為三種。這里需要潑一盆冷水Google 的 Gemini 2.5 Flash Thinking 雖然展示了透明的推理過程但當我讓它數(shù)“strawberry”里有幾個 R 時它自信滿滿地列出邏輯最后得出結(jié)論——兩個。這說明展示過程不等于結(jié)果正確透明度固然好但沒有驗證閉環(huán)Verification Loop依然是徒勞。在效率方面DeepSeek-R1 的架構(gòu)設計值得玩味。雖然它是一個擁有 6710 億參數(shù)的龐然大物但得益于 Mixture-of-Experts (MoE) 技術每次推理僅激活約 370 億參數(shù)。這好比一個存有 600 種工具的巨型車間工匠干活時只取當下最順手的 3 件。這種機制讓它的成本比 o1 低了 95% 卻保持了高密度的推理能力。正是這種 MoE 帶來的經(jīng)濟性才讓超大模型跑復雜的多步 Test-Time Compute 循環(huán)在商業(yè)上變得可行。現(xiàn)成的工程模式Best-of-N with Verification搞 Test-Time Compute 不需要千萬美元的訓練預算甚至不需要 o3 的權(quán)重。其核心架構(gòu)非常簡單普通開發(fā)者完全可以復刻。核心就三步Divergent Generation發(fā)散生成提高 Temperature讓模型對同一問題生成 N 種不同的推理路徑。Self-Verification自我驗證用模型自身或更強的 Verifier去批判每一個方案。Selection擇優(yōu)選出置信度最高的答案。學術界稱之為Best-of-N with Verification這與論文 [s1: Simple test-time scaling (arXiv:2501.19393)] 的理論高度吻合。你只需要任何一個主流 LLM APIOpenAI, DeepSeek, Llama 3 均可、幾分錢的額度和一個簡單的 Python 腳本。代碼實現(xiàn)如下import os import numpy as np from typing import List from pydantic import BaseModel, Field from openai import OpenAI client OpenAI(api_keyos.getenv(OPENAI_API_KEY)) # 1. Define structure for System 2 thinking class StepValidation(BaseModel): is_correct: bool Field(descriptionDoes the solution logically satisfy ALL constraints?) confidence_score: float Field(description0.0 to 1.0 confidence score) critique: str Field(descriptionBrief analysis of potential logic gaps or missed constraints) # 2. Divergent Thinking (Generate) def generate_candidates(prompt: str, n: int 5) - List[str]: Generates N distinct solution paths using high temperature. candidates [] print(fGenerating {n} candidate solutions with gpt-4o-mini...) for _ in range(n): response client.chat.completions.create( modelgpt-4o-mini, # Small, fast generator messages[ {role: system, content: You are a thoughtful problem solver. Show your work step by step.}, {role: user, content: prompt} ], temperature0.8 # High temp for diverse reasoning paths ) candidates.append(response.choices[0].message.content) return candidates # 3. Convergent Thinking (Verify) def verify_candidate(problem: str, candidate: str) - float: Uses the SAME small model to critique its own work. This proves that time to think model size. verification_prompt f You are a strict logic reviewer. Review the solution below for logical fallacies or missed constraints. PROBLEM: {problem} PROPOSED SOLUTION: {candidate} Check your work. Does the solution actually fit the constraints? Rate the confidence from 0.0 (Wrong) to 1.0 (Correct). response client.beta.chat.completions.parse( modelgpt-4o-mini, # Using the small model as a Verifier messages[{role: user, content: verification_prompt}], response_formatStepValidation ) return response.choices[0].message.parsed.confidence_score # 4. Main loop def system2_solve(prompt: str, effort_level: int 5): print(fSystem 2 Activated: Effort Level {effort_level}) candidates generate_candidates(prompt, neffort_level) scores [] for i, cand in enumerate(candidates): score verify_candidate(prompt, cand) scores.append(score) print(f Path #{i1} Confidence: {score:.2f}) best_index np.argmax(scores) print(fSelected Path #{best_index1} with confidence {scores[best_index]}) return candidates[best_index] # 5. Execute if __name__ __main__: # The Cognitive Reflection Test (Cyberpunk Edition) # System 1 instinct: 500 credits (WRONG) # System 2 logic: 250 credits (CORRECT) problem A corporate server rack and a cooling unit cost 2500 credits in total. The server rack costs 2000 credits more than the cooling unit. How much does the cooling unit cost? answer system2_solve(problem, effort_level5) # Increased effort to catch more failures print( FINAL ANSWER: , answer)實測案例“服務器機架”陷阱我在認知反射測試Cognitive Reflection Test的一個變體上跑了這個腳本。這是一種專門設計用來誘導大腦和 AI做出快速錯誤判斷的邏輯題。題目是“總價 2500機架比冷卻單元貴 2000冷卻單元多少錢”System 1直覺幾乎總是脫口而出500因為 2500-2000500。System 2邏輯才會算出250x x 2000 2500。運行結(jié)果非常典型System 2 Activated: Effort Level 5 Generating 5 candidate solutions... Path [#1](#1) Confidence: 0.10 -- Model fell for the trap (500 credits) Path [#2](#2) Confidence: 1.00 -- Model derived the math (250 credits) Path [#3](#3) Confidence: 0.00 -- Model fell for the trap ... Selected Path [#2](#2) with confidence 1.0注意Path [#1](#1)。在常規(guī)應用中用戶直接拿到的就是這個 500 credits錯誤 的答案。通過生成 5 條路徑我們發(fā)現(xiàn) 40% 的結(jié)果都掉進了陷阱。但關鍵在于作為驗證者的同一個小模型成功識別了邏輯漏洞并將包含正確推導的Path [#2](#2)撈了出來。僅僅是“多想一會兒”一個可靠性 60% 的模型就被強行拉到了 100%。算力經(jīng)濟賬這肯定更貴。但值不值我的實驗成本確實增加了 40 倍但別忘了絕對值只有 3 美分。這 3 美分換來的是 22% 的準確率提升。如果你在做醫(yī)療推理或生產(chǎn)環(huán)境 Debug這簡直是白菜價如果你只是做個閑聊機器人那確實是貴了。新的模型Inference Budget展望 2026 年架構(gòu)討論的焦點將從“誰的模型更聰明”轉(zhuǎn)移到“我們的推理預算Inference Budget是多少”。未來的決策可能會變成這樣System 1 (Standard API)延遲要求 2秒或者搞搞創(chuàng)意寫作。System 2 (DeepSeek-R1 / o3)準確性至上數(shù)學、代碼、邏輯且能容忍 10-30 秒的延遲。System 3 (Custom Loops)需要形式化保證必須依賴多 Agent 投票和驗證的關鍵決策。建議大家把上面的代碼拷下來跑一跑找一個你現(xiàn)在的 LLM 經(jīng)常翻車的邏輯題或冷門 Bug 試一下看著它實時自我修正。你會發(fā)現(xiàn)我們不該再把 LLM 當作“神諭Oracle”而應將其視為預算可配置的“推理引擎”。懂 Inference-time compute 的數(shù)據(jù)科學家才是 2026 年定義下一代 AI 產(chǎn)品的人。相關閱讀Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters(arXiv:2408.03314).s1: Simple test-time scaling(arXiv:2501.19393).DeepSeek AI (2025)—DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning(arXiv:2501.12948).https://avoid.overfit.cn/post/a2f09be2577e48b59d2f9f2fc5e6549c作者Cagatay Akcam