然而,奧卡姆剃刀并非唯一可行的原則.退一步說,即便假定我們是奧卡姆剃刀的鐵桿擁躉,也需注意到,奧卡姆剃刀本身存在不同的詮釋,使用奧卡姆剃刀原則并不平凡.例如對我們已經(jīng)很熟悉的西瓜問題來說,“假設(shè)1:好瓜÷÷(色澤=木)八(根蒂=蜷縮)八(敲聲=濁響)”和假設(shè)2:“好瓜÷÷(色澤=術(shù))^(根蒂=蜷縮)八(敲聲= *)”這兩個(gè)假設(shè),哪一個(gè)更“簡單”呢?這個(gè)問題并不簡單,需借助其他機(jī)制才能解決.事實(shí)上,歸納偏好對應(yīng)了學(xué)習(xí)算法本身所做出的關(guān)于“什么樣的模型更好”的假設(shè),在具體的現(xiàn)實(shí)問題中,這個(gè)假設(shè)是否成立,即算法的歸納偏好是否與問題本身匹配,大多數(shù)時(shí)候直接決定了算法能否取得好的性能.讓我們再回頭看看圖1.3.假設(shè)學(xué)習(xí)算法如基于某種歸納偏好產(chǎn)生了對應(yīng)于曲線A的模型,學(xué)習(xí)算法£6基于另一種歸納偏好產(chǎn)生了對應(yīng)于曲線B的模型.基于前面討論的平滑曲線的某種“描述簡單性”,我們滿懷信心地期待算法£。比£6更好.確實(shí),圖1.4(a)顯示出,與B相比,A與訓(xùn)練集外的樣本更一致;換言之,A的泛化能力比B強(qiáng).?