DNR聚焦技術(shù)(network driving equity)是面向深度神經(jīng)網(wǎng)絡(luò)的一種自然語(yǔ)言處理算法，主要用于生成支持知識(shí)的語(yǔ)音和圖像。DNR聚焦技術(shù)能有效地將人工智能應(yīng)用于人類語(yǔ)言處理。相比于傳統(tǒng)神經(jīng)網(wǎng)絡(luò), DNR聚焦技術(shù)具有更高的精度、更高的速度、更強(qiáng)和更靈活的特性。隨著深度學(xué)習(xí)時(shí)代的到來(lái)，人工智能已被應(yīng)用于各個(gè)領(lǐng)域。隨著深度學(xué)習(xí)在各種工業(yè)級(jí)人工智能場(chǎng)景中的成功應(yīng)用，其在日常生活中就變得越來(lái)越常見(jiàn)，同時(shí)人工智能也正在對(duì)整個(gè)社會(huì)生活帶來(lái)深遠(yuǎn)影響。本文主要介紹當(dāng)前行業(yè)主流使用的 DNR注意力預(yù)測(cè)系統(tǒng)(DNR Emotion DetectiveReal-Presentation System,簡(jiǎn)稱 DNR)以及這一領(lǐng)域在日常生活中廣泛應(yīng)用的一系列最新、最具代表性和最有影響力的應(yīng)用模型。

DNR聚焦技術(shù)

DNR注意力預(yù)測(cè)系統(tǒng)主要基于以下三種分類模型：DNR多詞強(qiáng)化學(xué)習(xí)：這種方法在多個(gè) DNR集中訓(xùn)練一個(gè)詞作為核心思想，并使用這一思想對(duì)詞進(jìn)行強(qiáng)化。DNR標(biāo)簽強(qiáng)化學(xué)習(xí)：這種方法是一種基于 CNN的多層多階段 CNN神經(jīng)網(wǎng)絡(luò)，用標(biāo)簽來(lái)增強(qiáng)模型對(duì)詞的分類。它通常會(huì)在兩個(gè)模型間進(jìn)行轉(zhuǎn)換，例如：用 DNR標(biāo)簽之間轉(zhuǎn)換，使兩個(gè) DNR都能準(zhǔn)確地從標(biāo)簽中讀出相應(yīng) DNR。DNR注意力預(yù)測(cè)系統(tǒng)是一個(gè)基于注意力預(yù)測(cè)（注意力機(jī)制）和注意力機(jī)制遷移學(xué)習(xí)技術(shù)(DMT)的多尺度計(jì)算解決方案。注意力機(jī)制在 DNR網(wǎng)絡(luò)中有兩個(gè)關(guān)鍵作用：其一是對(duì)詞進(jìn)行分類和對(duì)其進(jìn)行更新；其二是輸出到 DNR預(yù)測(cè)卷積神經(jīng)網(wǎng)絡(luò)并激活 DNR。DNR注意力預(yù)測(cè)系統(tǒng)在應(yīng)用中可以提高 DNR卷積神經(jīng)網(wǎng)絡(luò)對(duì)非參數(shù)語(yǔ)言信號(hào)的預(yù)測(cè)精度，通過(guò)增加模型參數(shù)和提取詞向量也可有效提高模型對(duì)非參數(shù)信息的識(shí)別能力。

DNR聚焦模型的基礎(chǔ)就是針對(duì)數(shù)據(jù)集特征而構(gòu)建一個(gè)自然語(yǔ)言模型，可以通過(guò)在文本和圖像中增加多個(gè)維度進(jìn)行分類。比如針對(duì)文本中的詞語(yǔ)、句子或文章，其特征主要有詞向量、句向量和句向傳播等要素。而圖像作為另一個(gè)關(guān)鍵要素，它可以對(duì)輸入圖像和源圖像的特征進(jìn)行分析，從而獲得更多的特征維度以及目標(biāo)句。不同類型的數(shù)據(jù)集可以有不同的特征維度及其不同的目標(biāo)句選擇策略，這些選擇策略最終決定了它們最終對(duì)應(yīng)于訓(xùn)練模型所用到信息或任務(wù)的維度、目標(biāo)句分布以及對(duì)目標(biāo)句向量（如圖1所示）進(jìn)行分析。相較于深度神經(jīng)網(wǎng)絡(luò), DNR聚焦模型在處理注意力驅(qū)動(dòng)信息時(shí)可以得到更多信息，并且在處理文本/圖像類事件和領(lǐng)域中具有更高的精確度。

以DNR-Transformer作為主要的神經(jīng)網(wǎng)絡(luò)模型，使用不同顏色的標(biāo)記表示輸入文本的顏色，并使用三個(gè)不同的標(biāo)記代表注意力的方向，用于訓(xùn)練三層 DNR網(wǎng)絡(luò)。在模型訓(xùn)練過(guò)程中，我們利用三個(gè)不同的標(biāo)記分別表示關(guān)注、反對(duì)或者非關(guān)注的方向。本文使用DNR-Transformer為 DNR技術(shù)在注意力預(yù)測(cè)領(lǐng)域帶來(lái)了顯著成效。我們發(fā)現(xiàn)對(duì)于標(biāo)注數(shù)據(jù)集而言，相較于僅使用最優(yōu)點(diǎn)標(biāo)記(related signal cluster)算法提高了標(biāo)注數(shù)據(jù)集識(shí)別準(zhǔn)確率和減少錯(cuò)誤率，是目前有效且有潛力改進(jìn) DNR識(shí)別準(zhǔn)確率和降低錯(cuò)誤率的方法之一。目前針對(duì) DNR聚焦問(wèn)題研究最好技術(shù)是針對(duì)標(biāo)注數(shù)據(jù)集進(jìn)行 DNR識(shí)別及提高專注效果。