如何理解重要性取樣

2021-03-21 23:18:50 字數 4101 閱讀 6835

1樓:爵帝倵士

重要性取樣是非常有意思的一個方法。我們首先需要明確,這個方法是基於取樣的,也就是基於所謂的蒙特卡洛法(monte carlo)。蒙特卡洛法,本身是一個利用隨機取樣對一個目標函式做近似。

例如求一個稀奇古怪的形狀的面積,如果我們沒有一個解析的表達方法,那麼怎麼做呢?蒙特卡洛法告訴我們,你只要均勻的在一個包裹了這個形狀的範圍內隨機撒點,並統計點在圖形內的個數,那麼當你撒的點很多的時候,面積可以近似為=(在圖形內的點的個數/總的點個數),當你撒的點足夠多的時候,這個值就是面積。 這裡假設我們總有辦法(至少要比找解析的面積公式簡單)求出一個點是否在圖形內。

另一個例子,如果你要求一個稀奇古怪的積分,沒有解析辦法怎麼辦?蒙特卡洛法告訴你,同樣,隨機撒點,你一定可以知道f(xi)的值,那麼這個積分的解可以表示為=(b-a)/點的個數*sigma[f(xi)],其中b,a為積分的上下限。

好了,知道了蒙特卡洛法,下面來說重要性取樣的前提一些內容。

很多問題裡,我們需要知道一個隨機變數的期望e(x),更多時候,我們甚至需要知道關於x的某一個函式f(x)的期望e[f(x)]。問題來了,如果這個x的概率分佈超級特麼的複雜,你準備怎麼做呢?積分麼?

逐點求和麼?聽上去挺不現實的。這時蒙特卡洛法跑出來告訴你,來來來,咱只要按照你這個概率分佈,隨機的取一些樣本點,再sigma(p(xi)*f(xi))不就可以近似這個期望了麼。

但問題又來了,你怎麼」按照這個概率分佈「去撒點呢?

經典蒙特卡洛法是這麼做的,首先把這個概率分佈寫成累計概率分佈的形式,就是從pdf寫成cdf,然後在[0,1]上均勻取隨機數(因為計算機只能取均勻隨機數),假如我們取到了0.3,那麼在cdf上cdf(x0)=0.3的點x0就是我們依據上述概率分佈取得的隨機點。

舉個具體例子吧,例如我想按照標準正態分佈n(0,1)取10個隨機數,那麼我首先在[0,1]上按照均勻分佈取10個點

0.4505 0.0838 0.

2290 0.9133 0.1524 0.

8258 0.5383 0.9961 0.

0782 0.4427

然後,我去找這些值在cdf上對應的x0,如下

-0.1243 -1.3798 -0.

7422 1.3616 -1.0263 0.

9378 0.0963 2.6636 -1.

4175 -0.1442

那麼上述這些點,就是我按照正態分佈取得的10個隨機數。

ok,你按照上述方法去找cdf吧。

我如果這麼說,你肯定會瘋掉。因為,如果概率分佈都超級特麼的複雜,累計概率分佈豈不是會更特麼不知道怎麼求了!

然後,我們開始了重要性取樣的介紹。

讓我們回顧一下期望的求法e(f(x))=sum( p(x) * f(x) ) dx。那麼,現在我們引入另一個概率分佈s(x),相比於p(x),s(x)是非常簡單能找到cdf的。那麼我們變形一下e(f(x)) = sum( p(x) * f(x) / s(x) * s(x) ) dx ,再仔細看看,這個求f(x)的期望變成了,求在s(x)分佈下,p(x)*f(x)/s(x)的期望。

重要性取樣的關鍵就在這裡,把對f(x)不好求的期望,變成了一個在另一個分佈下相對好求的期望。

這樣,s(x)能找到cdf,那麼就用上面提到的那個方法去取樣,然後對應的,求出h(x0)=p(x0)*f(x0)/s(x0)的值,最後再sigma(s(xi)*h(xi))就可以近似e(f(x))了。

舉個例子:就上面那個求積分的問題,用重要性取樣解釋還可以有很好玩兒的內容。上面求積分時,我們是用的均勻取樣的方法,注意這個時候自變數x已經被我們弄成了隨機變數,f(x)就是這個隨機變數的函式。

但是,大家可能會注意到這個問題:如果這個f(x)長的比較特別,例如是個高斯函式n(a,b^2),只不過它的方差b特別的小,但是自變數範圍特別大。這時的均勻取樣,大多數點都會落在了概率很低的地方,落在a附近的點很少。

這樣,均勻隨機取樣法得到的期望很有可能會和真實值差得非常遠。(唉,這個問題想不明白的畫圖,還想不明白的做實驗)。那麼,此時,如果我們換一個概率,不用均勻取樣法,用,例如說n(a,b^2)分佈,用上述方法重要性取樣一下。

那麼落在a附近的點會超級的多,這樣,得到的期望會很好的近似真實值。

當然,上面那個分佈是我隨口說的,大家都希望那個重要性取樣的概率函式可以無限的逼近真實分佈。但既然能表示真實分佈,我們就知道cdf了,誰還需要重要性取樣呢?所以這只是理論情況。

實際上,一般大家用的方法都會根據具體的情況選擇。我所見到的,大多都是利用某一種距離/相似度度量函式,然後把這些距離利用某種方法變換成概率分佈。這麼說還是太抽象,舉例吧:

我有一個特定人的模板,我希望在一個給定的區域內尋找這個人。那麼粒子的狀態就是位置座標(x, y)和大小(w,h),每個粒子的權重:

首先,求這個粒子的直方圖,再和模板求一個距離,巴式距離啦,emd啦,隨你選。假設這個值為x。

然後,計算k*exp^(-alpha*x)。這個方法被稱為likelihood map,就是說分數越小則概率越高,分數越大概率越低。反正k和alpha積分從0到正無窮的和是1就可以了。

這樣每個點都有了一個概率值。

且慢,現在還不是概率值。所有粒子的和不是1,所以只能叫權重值。然後再歸一化一下,就成為了概率值。

最後這個值就是我們要找的s(x)。p(x),f(x),s(x)都有了,這樣我們就可以比較輕易的利用s(x)的分佈撒點,求期望了。

當然,在很多文章裡這些概率都是帶著條件概率的,有的利用馬爾科夫性,只和前一幀的狀態以及觀測相關,有的則寫成和以前全部狀態相關。但是原理基本是一致的。s(x)的選取也各不相同,具體問題具體分析了。

過取樣的意義

2樓:宮平專用

1.提高時域分辨力從而獲得更

好的時域波形;

2.提高濾波器的處理增益,當在頻域上濾波時,濾波器的設計變得更容易;

3.提高訊雜比,匹配濾波時更好地收集波形能量;

4.抑制映象,使上變頻更容易,降低對後級da轉換的保持時間要求;

5.需要fractional sampling timing時是必需的.

過取樣應用:d/a轉換,但不一定非要過取樣,過取樣的技術一般用在低速(幾十k到數m)高精度(如16bit 18bit .....)的情況。da過取樣可以用線性插值實現。

如何理解 重要性取樣

3樓:白粥

重要性取樣演算法就是在有限的取樣次數內,儘量讓取樣點覆蓋對積分貢獻很大的點。

其目標是用一種受控的方式改變**,以便增加稀少事件的數目,同時還能正確地確定解調差錯概率。常規重要性取樣是一種降方差的**方法,它通過提供有偏噪聲來實現,等效於使系統工作在一個較低的訊雜比環境下。

如何理解 重要性取樣

4樓:無痕誓追流年

重要性的取樣,

顧名思義就是說這一個樣本

是非常重要的。

而且你取的時候一定要注意它的客觀性。

如何理解 重要性取樣

5樓:天馬行空設計

取樣(sampling)其他名稱:取樣,指把時間域或空間域的連續量轉化成離散量的過程。取樣簡介解釋1所謂取樣(sampling)就是採集模擬訊號的樣本。

採集的基本含義

6樓:栕犰

採集是指有著確定方向、明確目的的採擷和記錄寫作材料的一種活動。它主要指調查採訪和查閱和蒐集資料。採集最主要的作用在於為寫作、分析、報表獲取直接的和間接的材料。

這是從資訊學的角度來定義的。 採集從直觀上解釋有采摘和收集的意思。主要是採集主體為了自身的某種需要去採摘和收集所需物品的行為。

它是一系列的生理反應過程。這種行為普遍表現在人類和動物界。其本質是共同的,即滿足本能的如動物和高階的需要如人類。

但其區別也是相同的。動物的採集行為主要通過遺傳進行傳播,這樣,其採集水平是非常有限的。例如,松鼠永遠只能把採集到的過冬松果藏在機械的地方。

而人類的採集行為是可以進行遺傳並不斷提高的。其更高階的表現是通過文化進行演繹傳播,他們可以明顯地用自身進化出的思維意識活動作出理性的行為,例如對採集物品進行分類,加工,貯存,種植等,而這些採集行為,動物是完全做不到的。這是人類的採集行為不斷進化的顯著標志。

怎樣理解質量對企業的重要性,如何認識產品質量對公司的重要性

原則指導企業採購活動,也就是在適當的時候以適當降低產品質量 降低生產效率 因來料品質不良而導致對某些企業來講,交貨時機很重要。四 是適量 付費內容限時免費檢視 回答您好,一 論發展,質量才是硬道理。說過 發展才是硬道理。在產品質量是就是企業生命的今天,產品質量已成為一個企業在市場中立足的根本和發展的...

創新的重要性創新的重要性

創新是指 以現有的思維模式提出有別於常規或常人思路的見解為導向,利用現有的知識和物質,在特定的環境中,本著理想化需要或為滿足社會需求,而改進或創造新的事物 方法 元素 路徑 環境,並能獲得一定有益效果的行為。人類之所以可以統治地球就是因為人類善於創新,而美國之所以富就是因為美國支援創新,日本之所以敢...

中醫的重要性,文明的重要性

中醫具有源遠流長的歷史,與中華民族的文明一樣經歷了5000多年的時光,是我們的國粹版,是老祖宗給我們留下權的寶貝。中醫藥學凝聚著深邃的哲學智慧和中華民族幾千年的健康養生理念及其實驗經驗,是中國古代科學的瑰寶,也是開啟中華文明寶庫的鑰匙。為中華民族的繁衍作出了巨大的貢獻。現代人們逐漸意識到中醫對於保健...