作为一名程序员,经常要搜一些教程,有的教程是在线的,不提供离线版本,这就有些局限了。那么同样作为一名程序员,遇到问题就应该解决它,今天就来将在线教程保存为PDF以供查阅。

1、网站介绍

2、准备工作

2.1 软件安装

2.2 库安装


3、爬取内容

3.1 获取教程名称

3.2 获取目录及对应网址

3.3 获取章节内容

3.4 保存pdf

3.5 合并pdf

之前再搜资料的时候经常会跳转到如下图所示的在线教程:

程序人生教程01.教程样式

包括一些github的项目也纷纷将教程链接指向这个网站。经过一番查找,该网站是一个可以创建、托管和浏览文档的网站,其网址为:https://readthedocs.org 。在上面可以找到很多优质的资源。

该网站虽然提供了下载功能,但是有些教程并没有提供PDF格式文件的下载,如图:

程序人生教程02.下载

该教程只提供了 HTML格式文件的下载,还是不太方便查阅,那就让我们动手将其转成PDF吧!

2.1 软件安装

由于我们是要把html转为pdf,所以需要手动wkhtmltopdf 。Windows平台直接在 http://wkhtmltopdf.org/downloads.html 下载稳定版的 wkhtmltopdf 进行安装,安装完成之后把该程序的执行路径加入到系统环境 $PATH 变量中,否则 pdfkit 找不到 wkhtmltopdf 就出现错误 “No wkhtmltopdf executable found”。Ubuntu 和 CentOS 可以直接用命令行进行安装

$ sudo apt-get install wkhtmltopdf  # ubuntu<br></br>$ sudo yum intsall wkhtmltopdf      # centos<br></br>

2.2 库安装

  • pip install requests # 用于网络请求
  • pip install beautifulsoup4 # 用于操作html
  • pip install pdfkit # wkhtmltopdf 的Python封装包
  • pip install PyPDF2 # 用于合并pdf

本文的目标网址为:http://python3-cookbook.readthedocs.io/zh_CN/latest/ 。

3.1 获取教程名称

页面的左边一栏为目录,按F12调出开发者工具并按以下步骤定位到目录元素:

① 点击开发者工具左上角"选取页面元素"按钮;

② 用鼠标点击左上角教程名称处。

通过以上步骤即可定位到目录元素,用图说明:

程序人生教程03.寻找教程名称

从图看到我们需要的教程名称包含在<div class="wy-side-nav-search"></div>之间的a标签里。假设我们已经获取到了网页内容为html,可以使用以下代码获取该内容:

book_name = soup.find('div', class_='wy-side-nav-search').a.text<br></br>

3.2 获取目录及对应网址

使用与 2.1 相同的步骤来获取:

程序人生教程04.定位目录及网址

从图看到我们需要的目录包含在<div class="section"></div>之间,<li class="toctree-l1"></li>标签里为一级目录及网址;<li class="toctree-l2"></li>标签里为二级目录及网址。当然这个url是相对的url,前面还要拼接http://python3-cookbook.readthedocs.io/zh_CN/latest/

使用BeautifulSoup进行数据的提取:

# 全局变量<br></br>base_url = 'http://python3-cookbook.readthedocs.io/zh_CN/latest/'<br></br>book_name = ''<br></br>chapter_info = []<br></br>def parse_title_and_url(html):<br></br>"""<br></br>解析全部章节的标题和url<br></br>:param html: 需要解析的网页内容<br></br>:return None<br></br>"""<br></br>soup = BeautifulSoup(html, 'html.parser')<br></br># 获取书名<br></br>book_name = soup.find('div', class_='wy-side-nav-search').a.text<br></br>menu = soup.find_all('div', class_='section')<br></br>chapters = menu[0].div.ul.find_all('li', class_='toctree-l1')<br></br>for chapter in chapters:<br></br>info = {}<br></br># 获取一级标题和url<br></br># 标题中含有'/'和'*'会保存失败<br></br>info['title'] = chapter.a.text.replace('/', '').replace('*', '')<br></br>info['url'] = base_url   chapter.a.get('href')<br></br>info['child_chapters'] = []<br></br># 获取二级标题和url<br></br>if chapter.ul is not None:<br></br>child_chapters = chapter.ul.find_all('li')<br></br>for child in child_chapters:<br></br>url = child.a.get('href')<br></br># 如果在url中存在'#',则此url为页面内链接,不会跳转到其他页面<br></br># 所以不需要保存<br></br>if '#' not in url:<br></br>info['child_chapters'].append({<br></br>'title': child.a.text.replace('/', '').replace('*', ''),<br></br>'url': base_url   child.a.get('href'),<br></br>})<br></br>chapter_info.append(info)<br></br>

代码中定义了两个全局变量来保存信息。章节内容保存在chapter_info列表里,里面包含了层级结构,大致结构为:

[<br></br>{<br></br>'title': 'first_level_chapter',<br></br>'url': 'www.xxxxxx.com',<br></br>'child_chapters': [<br></br>{<br></br>'title': 'second_level_chapter',<br></br>'url': 'www.xxxxxx.com',<br></br>}<br></br>...            <br></br>]<br></br>}<br></br>...<br></br>]<br></br>

3.3 获取章节内容

还是同样的方法定位章节内容:

程序人生教程05.获取章节内容

代码中我们通过itemprop这个属性来定位,好在一级目录内容的元素位置和二级目录内容的元素位置相同,省去了不少麻烦。

html_template = """<br></br><br></br><html lang="en"><br></br><head><br></br><meta charset="UTF-8"><br></br></head><br></br><body><br></br>{content}<br></br></body><br></br></html><br></br>"""<br></br>def get_content(url):<br></br>"""<br></br>解析URL,获取需要的html内容<br></br>:param url: 目标网址<br></br>:return: html<br></br>"""<br></br>html = get_one_page(url)<br></br>soup = BeautifulSoup(html, 'html.parser')<br></br>content = soup.find('div', attrs={'itemprop': 'articleBody'})<br></br>html = html_template.format(content=content)<br></br>return html<br></br>

3.4 保存pdf

def save_pdf(html, filename):<br></br>"""<br></br>把所有html文件保存到pdf文件<br></br>:param html:  html内容<br></br>:param file_name: pdf文件名<br></br>:return:<br></br>"""<br></br>options = {<br></br>'page-size': 'Letter',<br></br>'margin-top': '0.75in',<br></br>'margin-right': '0.75in',<br></br>'margin-bottom': '0.75in',<br></br>'margin-left': '0.75in',<br></br>'encoding': "UTF-8",<br></br>'custom-header': [<br></br>('Accept-Encoding', 'gzip')<br></br>],<br></br>'cookie': [<br></br>('cookie-name1', 'cookie-value1'),<br></br>('cookie-name2', 'cookie-value2'),<br></br>],<br></br>'outline-depth': 10,<br></br>}<br></br>pdfkit.from_string(html, filename, options=options)<br></br>def parse_html_to_pdf():<br></br>"""<br></br>解析URL,获取html,保存成pdf文件<br></br>:return: None<br></br>"""<br></br>try:<br></br>for chapter in chapter_info:<br></br>ctitle = chapter['title']<br></br>url = chapter['url']<br></br># 文件夹不存在则创建(多级目录)<br></br>dir_name = os.path.join(os.path.dirname(__file__), 'gen', ctitle)<br></br>if not os.path.exists(dir_name):<br></br>os.makedirs(dir_name)<br></br>html = get_content(url)<br></br>padf_path = os.path.join(dir_name, ctitle   '.pdf')<br></br>save_pdf(html, os.path.join(dir_name, ctitle   '.pdf'))<br></br>children = chapter['child_chapters']<br></br>if children:<br></br>for child in children:<br></br>html = get_content(child['url'])<br></br>pdf_path = os.path.join(dir_name, child['title']   '.pdf')<br></br>save_pdf(html, pdf_path)<br></br>except Exception as e:<br></br>print(e)<br></br>

3.5 合并pdf

经过上一步,所有章节的pdf都保存下来了,最后我们希望留一个pdf,就需要合并所有pdf并删除单个章节pdf。

from PyPDF2 import PdfFileReader, PdfFileWriter<br></br>def merge_pdf(infnList, outfn):<br></br>"""<br></br>合并pdf<br></br>:param infnList: 要合并的PDF文件路径列表<br></br>:param outfn: 保存的PDF文件名<br></br>:return: None<br></br>"""<br></br>pagenum = 0<br></br>pdf_output = PdfFileWriter()<br></br>for pdf in infnList:<br></br># 先合并一级目录的内容<br></br>first_level_title = pdf['title']<br></br>dir_name = os.path.join(os.path.dirname(<br></br>__file__), 'gen', first_level_title)<br></br>padf_path = os.path.join(dir_name, first_level_title   '.pdf')<br></br>pdf_input = PdfFileReader(open(padf_path, 'rb'))<br></br># 获取 pdf 共用多少页<br></br>page_count = pdf_input.getNumPages()<br></br>for i in range(page_count):<br></br>pdf_output.addPage(pdf_input.getPage(i))<br></br># 添加书签<br></br>parent_bookmark = pdf_output.addBookmark(<br></br>first_level_title, pagenum=pagenum)<br></br># 页数增加<br></br>pagenum  = page_count<br></br># 存在子章节<br></br>if pdf['child_chapters']:<br></br>for child in pdf['child_chapters']:<br></br>second_level_title = child['title']<br></br>padf_path = os.path.join(dir_name, second_level_title   '.pdf')<br></br>pdf_input = PdfFileReader(open(padf_path, 'rb'))<br></br># 获取 pdf 共用多少页<br></br>page_count = pdf_input.getNumPages()<br></br>for i in range(page_count):<br></br>pdf_output.addPage(pdf_input.getPage(i))<br></br># 添加书签<br></br>pdf_output.addBookmark(<br></br>second_level_title, pagenum=pagenum, parent=parent_bookmark)<br></br># 增加页数<br></br>pagenum  = page_count<br></br># 合并<br></br>pdf_output.write(open(outfn, 'wb'))<br></br># 删除所有章节文件<br></br>shutil.rmtree(os.path.join(os.path.dirname(__file__), 'gen'))<br></br>

本来PyPDF2库中有一个类PdfFileMerger专门用来合并pdf,但是在合并过程中会抛出异常,网上有人也遇到同样的问题,解决办法是修改库源码,本着“不动库源码”的理念,毅然选择了上面这种比较笨的办法,代码还是比较好理解的。

经过以上几个步骤,我们想要的pdf文件已经生成,一起来欣赏一下劳动成果:

程序人生教程06.保存成果

标签: none

相关文章推荐

添加新评论,含*的栏目为必填