使用tf*idf实现对文档集合的检索
步骤:
成都创新互联凭借在网站建设、网站推广领域领先的技术能力和多年的行业经验,为客户提供超值的营销型网站建设服务,我们始终认为:好的营销型网站就是好的业务员。我们已成功为企业单位、个人等客户提供了成都做网站、成都网站制作服务,以良好的商业信誉,完善的服务及深厚的技术力量处于同行领先地位。
读取三篇文档1.txt,2.txt,3.txt,里边的内容分别为“this is php”,“this is html html”,“this is java”
分词,并统计词频tf
计算文档频率df
计算每篇文档的特征向量
计算搜索词与文档的夹角余弦值
$_value){ $_value = trim($_value); $_value = preg_replace('/[.|,|(|)|-|;]/','',$_value); $_words[$i][$_key]=strtolower($_value); } //统计文档所有词的长度,一般计算tf需要除以这个值,为了简便,本次试验省去这步 //$_words_count[]=count($_words[$i]); //词频tf $_tf[] = array_count_values($_words[$i]); //去重 $_words[$i]= array_unique($_words[$i]); } //合并 $_words_com = array_merge($_words[0],$_words[1],$_words[2]); //文档频率 $_df = array_count_values($_words_com); //特征向量 for ($i = 0;$i < $_len;$i++){ //初始化,与文档频率的维度相同 $_vsm[$i] = $_df; //把每个维度的值设置为0 foreach($_vsm[$i] as $_key=>$_value){ $_vsm[$i][$_key] = 0; } for ($j=0;$j'; } //测试 $_query = 'java'; $_vsm_que = $_df; foreach($_vsm_que as $_key=>$_value){ $_vsm_que[$_key] = 0; } if (in_array($_query,$_vsm_que)){ $_vsm_que[$_query] = 1; } for ($i = 0; $i < count($_vsm); $i++){ foreach($_vsm_que as $_key=>$_value){ $_sim[$i] += ($_vsm[$i][$_key]) * ($_vsm_que[$_key]); $_w1 += pow($_vsm_que[$_key],2); $_w2 += pow($_vsm[$i][$_key],2); } //求夹角余弦值,相似度计算 $_cos[$i] = $_sim[$i]/(sqrt($_w1)*sqrt($_w2)); echo '
'; echo '第'.($i+1).'篇文档的相似度:'.$_cos[$i]; } arsort($_cos); foreach($_cos as $_key=>$_value){ echo '
'; echo '最符合的结果为第'.($_key+1).'篇文档'; break; } ?>
在浏览器运行的结果:
第1篇文档的特征向量: (0,0,1.09861228867,0,0)
第2篇文档的特征向量: (0,0,0,2.19722457734,0)
第3篇文档的特征向量: (0,0,0,0,1.09861228867)
第1篇文档的相似度:0
第2篇文档的相似度:0
第3篇文档的相似度:0.235702260396
最符合的结果为第3篇文档
分享名称:使用tf*idf实现对文档集合的检索
转载来源:http://pwwzsj.com/article/jdepeo.html