【无监督短语抽取】SIFRank论文详读

最新推荐文章于 2024-08-05 08:00:00 发布
原创 最新推荐文章于 2024-08-05 08:00:00 发布 · 1.3k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #机器学习 #人工智能

SIFRank: A New Baseline for Unsupervised

Keyphrase Extraction Based on Pre-Trained
Language Model

Reading Date: September 19, 2022
Type: Thesis

论文：https://ieeexplore.ieee.org/document/8954611

项目：https://github.com/yukuotc/SIFRank_zh

SIFRank: 一个基于预训练模型的无监督关键词抽取的模型

它由两部分组成：句向量模型SIF和自回归预训练模型ELMO。

在短文本中它表现优异。

document segmentation和contextual word embeddings alignment在保证accuracy的前提下加速了SIFRank。

我们用position-biased weight升级SIFRank to SIFRank+，极大地提高了在长文本中的表现。

传统无监督方法

  • 基于统计信息
    • 基于n-gram，语法，词频等
  • 基于图
    • 例：textrank

SIFRank模型

在这里插入图片描述

最低0.47元/天 解锁文章

200万优质内容无限畅学
【扩散模型/图像匹配/图像拼接】论文精读：DiffMatch: Diffusion Model for Dense Matching
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
01-30 1万+
建立成对图像之间的密集对应关系的目标由两个术语组成：数据项和先验项。虽然传统的技术侧重于定义难以表述的手工设计的先验项，但最近的方法侧重于使用深度神经网络学习数据项，而无需显式建模先验，假设模型本身有能力从大规模数据集中学习最优先验。然而，性能改进很明显，它们通常无法解决匹配的固有歧义，例如无纹理区域、重复模式和大位移。为了解决这个问题，我们提出了 DiffMatch，这是一个新颖的基于条件扩散的框架，旨在显式建模数据和先验术语。与以前的方法不同，这是通过利用条件去噪扩散模型来实现的。DiffMatch由两
大模型：文本分割模型
m0_37559973的博客
06-13 3823
​ BERT文本分割-中文-通用领域(nlp_bert_document-segmentation_chinese-base)，该模型基于wiki-zh公开语料训练，对未分割的长文本进行段落分割。提升未分割文本的可读性以及下游NLP任务的性能。
SIFRank_zh:基于预训练模型的中文关键词提取方法（论文SIFRank
03-21
SIFRank_zh 这是我们论文的相关代码原文是在对英文关键短语进行抽取，这里迁移到中文上，部分管道进行了改动英文原版在。。 版本介绍 2020/03 / 03——最初最初版本本版本中只包含了最基本的功能，部分细节还有待优化和扩展。 核心算法 预训练模型ELMo +句向量模型SIF 词向量ELMo优势：1）通过大规模预训练，较早的TFIDF，TextRank等基于统计和图的具有更多的语义信息； 2）ELMo是动态的，可以改善一词多义问题； 3）ELMo通过Char -CNN编码，对生隐词非常友好； 4）不同层的ELMo可以捕捉不同层次的信息 句子矢量SIF优势：1）根据词频对词向量进行平滑逆频率变换，能更好地捕捉句子的中心话题； 2）更好地过滤通用词 最终关键焦点识别 首先对句子进行分词和词性标注，再利用正则表达式确定确定名词短语（例如：形容词+名词），将名词作为前缀关键字 最终关键利率
SIFRank New Baseline for Unsupervised Keyphrase Extraction Based on Pre-Trained Language Model
qq_45041871的博客
09-28 591
SIFRank关键词抽取算法解读
NLP实践——基于SIFRank的英文关键短语抽取
weixin_44826203的博客
11-21 2785
NLP实践——基于SIFRank的英文关键短语抽取1. 回顾2. 英文关键词抽取2.1 预训练词汇权重2.2 分词/词性标注模型2.3 候选短语抽取模型2.4 编码模型 1. 回顾 之前的文章中介绍了如何用SIFRank进行中文的关键词抽取： https://blog.csdn.net/weixin_44826203/article/details/121144724 有读者问到是否可以用来做英文，答案是肯定的，SIFRank原本就是做英文的，自然可以采用类似的方法进行改写，使之可以适用于英文。所以这篇文章
NLP实践——基于SIFRank的中文关键短语抽取
weixin_44826203的博客
11-08 7416
NLP实践——基于SIFRank的中文关键短语抽取0. 本文介绍1. 运行环境2. 项目目录3. 代码实现3.1 utils3.2 初始化各类组件3.2.1 标点和停用词3.2.2 预训练词汇权重 0. 本文介绍 本文在《SIFRank: A New Baseline for Unsupervised Keyphrase Extraction Based on Pre-Trained Language Model》的基础上，借鉴原作者的思想，重写实现了一个好用的中文关键短语抽取工具。 首先声明一下，这篇论文
SIFRank_zh与关键词提取
ox180x的博客
01-12 1089
介绍本文尝试从几个方面来介绍提取关键词所知的技术，以及关键词提取所遇到的问题，接着介绍SIFRank-zh算法，最后穿插下个人的理解与总结。 关键词提取技术刚开始接触这个概念的时候，网上一大堆介绍TF-IDF和TextRank算法，这俩简直已经称为了关键词提取的baseline。关于TF-IDF，的确在许多文档中已经作为了baseline来和其他技术相对比，是一种简...
YOLVO 论文，YOLOv7来临：论文详读和解析.rar
04-23
YOLVO 论文，YOLOv7来临：论文详读和解析 YOLVO 论文，YOLOv7来临：论文详读和解析 YOLVO 论文，YOLOv7来临：论文详读和解析 YOLVO 论文，YOLOv7来临：论文详读和解析 YOLVO 论文，YOLOv7来临：论文详读和解析 ...
硕士论文详读_基于物联网的供热云服务监管平台研究.pdf
11-20
采用物联网技术可以覆盖和感知辖区内的供热系统的各个环节，经由粗到细和由表及里的数据挖掘处理，通过人机互助和“云服务”并结合工艺控制要求实现人机智能共生。为各个层次的专家搭建高效工作平台和切入窗口，对...
SIFRank:我们论文的代码“ SIFRank
05-04
SIFRank 我们的论文代码 版本说明 2020/02 / 21—— Initial version提供最基本的功能。 2020/02 / 28—— Second version增加了新算法DS （文档分割）和EA （嵌入对齐），以speed up SIFRank和SIFRank +的speed up 。 2020/03/02 - Third version SIFRank +的变化不大./model/method.py有关使position_score的一个简单的正常化。 环境 Python 3.6 nltk 3.4.3 StanfordCoreNLP 3.9.1.1 torch 1.1.0 allennlp 0.8.4 下载 从ELMo elmo_2x4096_512_2048cnn_2xhighway_options.json和elmo_2x4096_512_2048cnn_
关键词抽取
qq_47537678的博客
06-08 462
SIFRank关键词抽取
《Advanced RAG》-05-探索语义分块（Semantic Chunking）
最新发布
静愚AGI
08-05 2455
文章首先介绍了语义分块在 RAG 中的位置和作用，并介绍了常见的基于规则的分块方法。然后，阐述了语义分块的目的是确保每个分块包含尽可能多的独立语义信息。接着，文章分别介绍了三种语义分块方法的原理和实现方法，并对每种方法进行了总结和评估。
『论文阅读』SIF：一种简单却难以打败的句子嵌入方法
酒狂的博客
04-08 5951
SIF平滑逆频率论文阅读笔记。计算句子中单词向量的加权平均值，然后删除平均向量在其第一个主成分上的投影（“公共成分去除”）。
医疗搜索中的query词权重算法探索
zenRRan的博客
05-22 1343
点击下面卡片，关注我呀，每天给你送来AI技术干货！来自：丁香园大数据前言计算query词权重（术语权重，也称作Term Necessity，Query Term Weight）是IR研究中...
python 关键词抽取工具
风吹半夏
11-05 1918
前言 依任务需要，对多种关键词抽取工具进行比较，测试、调研。特此记录相关调用方法及最终评测结果。 1、jieba Github地址：https://github.com/fxsjy/jieba/ 安装：pip install jieba -i https://pypi.douban.com/simple/ 基于 TextRank 算法的关键词抽取 import jieba def keyword_extraction(content): """TextRank关键词抽取""" keywor
论文阅读：EmbedRank: Unsupervised Keyphrase Extraction using Sentence Embeddings
u014435314的专栏
07-26 3163
问题： 现有的关键词抽取系统普遍存在的问题包括：1）complex and slow 2）over-generation (i.e. extracting redundant keyphrases) 资源： 1. 代码 https://github.com/swisscom/ai-research-keyphrase-extraction 相关工作： 1. Unsupervised...
专题-句向量（Sentence Embedding）
热门推荐
luoyexuge的专栏
11-08 1万+
原始地址：https://github.com/imhuay/Algorithm_Interview_Notes-Chinese/blob/master/B-%E8%87%AA%E7%84%B6%E8%AF%AD%E8%A8%80%E5%A4%84%E7%90%86/B-%E4%B8%93%E9%A2%98-%E5%8F%A5%E5%B5%8C%E5%85%A5.md   Reference ...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值