如何解释LDA组件(使用sklearn)

Question

我使用潜在狄利克雷分配（sklearn实现）分析了大约500篇科学文章摘要，我得到了包含最重要单词的主题（德语）。我的问题是解释这些与最重要的单词相关的值。我假设每个主题的所有单词的概率加起来为 1，但事实并非如此。

如何解释这些值？例如，我希望能够说出为什么主题 #20 的单词值比其他主题高得多。它们的绝对高度与贝叶斯概率有关吗？该主题在语料库中更常见吗？我还不能将这些值与LDA背后的数学结合起来。

from sklearn.feature_extraction.text import CountVectorizer
from sklearn.decomposition import LatentDirichletAllocation
tf_vectorizer = CountVectorizer(max_df=0.95, min_df=1, top_words=stop_ger,
                                analyzer='word',
                                tokenizer = stemmer_sklearn.stem_ger())
tf = tf_vectorizer.fit_transform(texts)
n_topics = 10
lda = LatentDirichletAllocation(n_topics=n_topics, max_iter=5, 
                                learning_method='online',                 
                                learning_offset=50., random_state=0)
lda.fit(tf)
def print_top_words(model, feature_names, n_top_words):
    for topic_id, topic in enumerate(model.components_):
        print('nTopic Nr.%d:' % int(topic_id + 1)) 
        print(''.join([feature_names[i] + ' ' + str(round(topic[i], 2))
              +' | ' for i in topic.argsort()[:-n_top_words - 1:-1]]))
n_top_words = 4
tf_feature_names = tf_vectorizer.get_feature_names()
print_top_words(lda, tf_feature_names, n_top_words)
Topic Nr.1: demenzforsch 1.31 | fotus 1.21 | umwelteinfluss 1.16 | forschungsergebnis 1.04 |
Topic Nr.2: fur 1.47 | zwisch 0.94 | uber 0.81 | kontext 0.8 |
...
Topic Nr.20: werd 405.12 | fur 399.62 | sozial 212.31 | beitrag 177.95 | 

Answer 1

来自文档

组件_ 主题词分布的变分参数。自完成 主题词分布的条件是狄利克雷，components_[i， j] 可以看作是表示次数的伪计数 单词J被分配到主题I。它也可以被视为分布 规范化后每个主题的单词：model.components_ / model.components_.sum(axis=1)[:, np.newaxis] .

因此，如果对组件进行规范化以评估主题中每个术语的重要性，则可以将这些值视为分布。AFAIU 您不能使用伪计数来比较语料库中两个主题的重要性，因为它们是应用于术语-主题分布的平滑因子。