成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

RAG之PDF文件中多種格式數據解析實踐 原創

發布于 2024-7-2 11:15
瀏覽
0收藏

RAG 檢索增強生成由2部分構成:一是離線對異構的數據進行數據工程處理成知識,并存儲在知識庫中,二是基于用戶的提問進行知識庫的檢索增強。如下圖所示:

RAG之PDF文件中多種格式數據解析實踐 -AI.x社區

其中最關鍵的一個環節是 PDF 格式的文件如何提取成知識,下面詳細剖析。

1、PDF 文件中文本數據如何提取?

能夠處理文本提取的 Python 庫有多個,其中較為知名的包括 pdfminer.six、PyMuPDF、PyPDF2 和 pdfplumber。在這些庫中,PyMuPDF 因其出色的文本提取能力而備受推崇。特別是在處理雙欄布局等復雜格式的 PDF 文件時,PyMuPDF 能夠最大程度地保留 PDF 的閱讀順序,這對于確保文本內容的準確性和完整性至關重要。

下面我們將以雙欄布局的 PDF 文件為例,展示使用 PyMuPDF 庫進行文字提取的效果。

RAG之PDF文件中多種格式數據解析實踐 -AI.x社區


進行文本提取的代碼如下所示:

RAG之PDF文件中多種格式數據解析實踐 -AI.x社區

打印的結果如下所示:

RAG之PDF文件中多種格式數據解析實踐 -AI.x社區


2、PDF 文件中表格數據如何提取?

在處理表格提取任務時,camelot 和 tabula 是兩個備受推崇的庫。它們各自在提取有線表和少線表(即含有較少分隔線的表格)方面展現出了良好的效果。接下來,我將分別以有線表為例,簡要介紹 camelot庫的使用。

camelot 是一個強大的 Python 庫,專門用于從 PDF 文件中提取表格數據。對于有線表,即表格中包含明確分隔線的表格,camelot 表現出色。通過指定 PDF 文件路徑和表格所在的頁面區域,camelot 能夠準確地識別并提取出表格中的數據,比如有線表原始數據:

RAG之PDF文件中多種格式數據解析實踐 -AI.x社區


使用 camelot 提取有線表的示例代碼如下:

RAG之PDF文件中多種格式數據解析實踐 -AI.x社區


表格數據的打印結果如下所示:

RAG之PDF文件中多種格式數據解析實踐 -AI.x社區

3、掃描 PDF 的文本數據如何提取?

在從掃描的 PDF 文件中提取文本時,使用開源的 PaddleOCR,并且用 PPStructure 做版面的分析。我們還是以下面的 PDF 文件為例,不過這是 PDF 文件的掃描版。

RAG之PDF文件中多種格式數據解析實踐 -AI.x社區

提取文本的代碼如下:

RAG之PDF文件中多種格式數據解析實踐 -AI.x社區

RAG之PDF文件中多種格式數據解析實踐 -AI.x社區


RAG之PDF文件中多種格式數據解析實踐 -AI.x社區

得到的結果如下所示:

RAG之PDF文件中多種格式數據解析實踐 -AI.x社區

圖中的左邊是根據給出的版面分析結果畫出來的,可以看出對雙欄 PDF 做了正確的解析。右邊是根據識別出來的文本以及文本的坐標畫出來的,可以看出基本上和左邊的版面以及內容是一致的。


本文轉載自公眾號玄姐聊AGI  作者:玄姐

原文鏈接:??https://mp.weixin.qq.com/s/fsntWsBQMZY2hjBXKAcC2w??



?著作權歸作者所有,如需轉載,請注明出處,否則將追究法律責任
標簽
收藏
回復
舉報
回復
相關推薦
主站蜘蛛池模板: av在线一区二区三区 | 九九视频网 | 国产精品入口麻豆www | 欧美激情五月 | 国产偷录视频叫床高潮对白 | 日韩一二三区视频 | 国产美女在线观看 | 中文字幕在线电影观看 | 男女那个视频 | 久久久久久久久99精品 | 成人在线免费网站 | 午夜激情视频在线 | 电影午夜精品一区二区三区 | 国产亚洲欧美在线 | 国产欧美精品一区二区色综合朱莉 | 亚洲 中文 欧美 日韩 在线观看 | 先锋影音资源网站 | 国产一区二区免费在线 | 亚洲一区综合 | 亚洲黄色网址视频 | 久久精品国产一区二区电影 | 影音先锋中文字幕在线观看 | 亚洲高清在线观看 | 国产乱精品一区二区三区 | 九九天堂网 | 日韩一区二区三区视频 | eeuss国产一区二区三区四区 | 国产精品2 | 国产精品久久国产精品 | 精品成人一区 | 欧美福利视频一区 | 欧美一区二区三区国产精品 | 国产成人小视频 | 精品视频国产 | 91精品国产综合久久久久久丝袜 | 欧美日韩国产一区二区三区不卡 | 亚洲精品乱码久久久久久黑人 | 涩涩视频在线观看免费 | 国产精品成人一区二区三区夜夜夜 | 91久久久久久久 | 最新中文字幕第一页视频 |