婷婷六月丁,久久久久性电影,欧美精品 999,中文字幕高清无码口交颜射

產(chǎn)品列表PRODUCTS LIST

首頁 > 技術(shù)與支持 > 網(wǎng)絡(luò)解碼器采用的技術(shù)特點(diǎn)
網(wǎng)絡(luò)解碼器采用的技術(shù)特點(diǎn)
點(diǎn)擊次數(shù):1610 更新時間:2019-05-14
   網(wǎng)絡(luò)解碼器是一個很成功的翻譯模型。這個模型接受一個序列作為輸入,并將序列中的信息編碼為中間表示。然后解碼器解碼中間表示為目標(biāo)語言。在我們的這個項(xiàng)目中,輸入序列是法語句子,輸出是相應(yīng)的英語翻譯。
 
  在我們深入網(wǎng)絡(luò)解碼器如何工作之前,我們需要了解下模型是如何表示我們的數(shù)據(jù)的。在對模型的工作機(jī)制一無所知的情況下,我們可以合理地推測如果我們給模型一個法語句子,模型能給我們對應(yīng)的英語句子。也就是說,輸入一個單詞序列,模型應(yīng)該輸出另一個單詞序列。然而,模型只不過是一組參數(shù),在輸入上進(jìn)行多種運(yùn)算。模型并不知道什么是單詞。類似ASCII編碼將字母映射到數(shù)字,我們的單詞也需要轉(zhuǎn)成數(shù)值表是。為此,數(shù)據(jù)集中的每個的單詞需要有一個的索引。模型接受的實(shí)際上不是一個單詞序列,而是一個索引序列。
 
  一次傳入一個句子,這沒什么問題。不過,怎樣才能一次傳入多個句子以加速訓(xùn)練過程呢?句子長短不一。這些數(shù)字序列又該如何組織呢?答案是輸入序列將表示為維度等于(batch大小 × 大句子長度)的張量(矩陣)。這樣就可以一次輸入一組句子,短于數(shù)據(jù)集中長句的句子可以用事先確定的“補(bǔ)齊索引”補(bǔ)齊。
 
  回顧下編碼器輸出張量,序列維度的每一項(xiàng)保存了RNN輸出的向量。注意力模塊就批次中的每個樣本在序列維度上取這些向量的加權(quán)和。這樣,每個樣本得到一個向量,表示當(dāng)前輸出序列步驟計(jì)算所需的相關(guān)信息。
 
  下面我們將舉一個具體的例子。如果輸入句子的個單詞包含了給定輸出單詞所需的所有重要的信息,那么個單詞分配的權(quán)重是一,其他各項(xiàng)權(quán)重為零。也就是加權(quán)向量等于輸入句子的個單詞對應(yīng)的向量。
 
  模型需要學(xué)習(xí)如何分配這些權(quán)重,所以我們使用了一個全連接層。序列中的每個單詞對應(yīng)一個權(quán)重,所以權(quán)重?cái)?shù)量等于長句子長度。權(quán)重之和應(yīng)等于一,所以全連接層將使用softmax激活函數(shù)。注意力模塊將接受網(wǎng)絡(luò)解碼器先前的隱藏狀態(tài)與解碼器前一步輸出的預(yù)測單詞的詞嵌入的連接作為輸入,從而決定這些權(quán)重的值。
人人艹蜜臀| 国产精品一区一定| 日本免费一区二区三区不卡区| 水蜜桃午夜福利视频| 久久综合一区二区三| 一起射国产| 操操美女逼逼| 日本V一在线| 国产,亚洲,欧美人人操| 国产性猛交又粗又长又黄视频| 色婷婷日韩精品一区二区| 武汉精品久久久久 | 后入在线国产| 国产特级婬片免费看9一区二区| 日本好吊妇在线精品免费视频| 欧美日韩成人精品资源| 日韩有码不卡| 骚那91AV视频| 丰满白嫩少妇人妻精品一区| 亚洲a区b区| 国产激情伦理| 亚洲精品二区五码| jlzz亚洲| 精品国产国产综合| 超碰最新网址| 媚薬美女轰专站| 另类人妻精品一区字幕| 蜜臀天堂AV在线| 久久久国产三级电影一区| 大陆AV免费不卡| 国产亚洲精品|V粉色百度| 天天成人宗合网| 大学生自拍偷拍| 黄色激情综合在线| 91欧美黄色| 国产aV无码久久无码| 最新中文字幕有码在线| 成人午夜激情午夜福利| 大香蕉在线视频一区二区| 午夜操逼视频| 在线 综合 一区|