成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

利用Python爬蟲爬取網(wǎng)站音樂遇到的坑

開發(fā) 后端
下面,我以爬取某易云音樂為例,介紹一下我時(shí)如何學(xué)習(xí)python爬蟲的。

 前言

最近我想在網(wǎng)站上下載幾首音樂放到我的u盤里聽,但是上網(wǎng)上一找,各大音樂網(wǎng)站下載歌曲(尤其是好聽的歌曲)都需要vip。

[[388310]]

對(duì)于像我這樣的窮人來說,肯定是不會(huì)花幾十塊錢去下載幾首音樂啦,而且作為程序員,充錢去下載音樂那也是不可能的,于是我花了一天時(shí)間,上網(wǎng)找了各種資料來學(xué)習(xí)一下怎樣才能不花錢白嫖到網(wǎng)站上的音樂。

當(dāng)然,方法還是有很多種的,最后我還是選擇了一種最簡(jiǎn)單,最方便的一種方法: python爬蟲。下面,我就跟大家分享一下我在用python爬蟲時(shí)遇到的坑。

下面,我以爬取某易云音樂為例,介紹一下我時(shí)如何學(xué)習(xí)python爬蟲的:

思路:

  •  音樂從哪里來?---網(wǎng)站的服務(wù)器里
  •  怎么從網(wǎng)址里得到音樂?---向網(wǎng)站發(fā)起網(wǎng)絡(luò)請(qǐng)求
  •  刪選音樂文件
  •  下載音樂文件

具體實(shí)現(xiàn)

1.引入發(fā)送網(wǎng)絡(luò)請(qǐng)求的第三方庫

  1. import requests # 發(fā)送網(wǎng)絡(luò)請(qǐng)求的第三方庫 

安裝方法

  1. pip install requests 

2.引入數(shù)據(jù)解析第三方庫 

  1. from lxml import etree # 數(shù)據(jù)解析第三方庫 

安裝方法 

  1. pip install lxml 

3.某易云音樂網(wǎng)站列表url為'https://music.163.com/#/discover/toplist?id=3778678' 

  1. url = 'https://music.163.com/#/discover/toplist?id=3778678' 

4.發(fā)送請(qǐng)求獲取頁面數(shù)據(jù) 

  1. response = requests.get(urlurl=url) # 請(qǐng)求頁面數(shù)據(jù) 

5.解析數(shù)據(jù) 

  1. html=etree.HTML(response.text) # 解析頁面數(shù)據(jù) 

6.獲取所有歌曲標(biāo)簽集合( a標(biāo)簽 ) 

  1. id_list = html.xpath('//a[contains(@href,"song?")]')  # 所有歌曲id集合 

7.下載歌曲 

  1. base_url = 'http://music.163.com/song/media/outer/url?id=' # 下載音樂網(wǎng)址前綴  
  2. # 下載音樂url = 網(wǎng)址前綴 + 音樂id  
  3. for data in id_list:  
  4.     href = data.xpath('./@href')[0]  
  5.     music_id = href.split('=')[1] # 音樂id  
  6.     music_url = base_url + music_id # 下載音樂url  
  7.     music_name = data.xpath('./text()')[0] # 下載音樂名稱  
  8.     music = requests.get(url = music_url 
  9.     # 將下載的音樂以文件形式保存下來  
  10.     with open('./music/%s.mp3' % music_name, 'wb') as file:  
  11.          file.write(music.content)  
  12.          print('<%s>下載成功' % music_name) 

遇到的坑

以上的方法我是從一個(gè)視頻里學(xué)到的,那個(gè)視頻是半年前出的,可能當(dāng)時(shí)這種方法還好使,但是今天我在用這種方法下載音樂文件的時(shí)候突然就報(bào)錯(cuò)了。

首先,編輯器報(bào)錯(cuò)找不到 music_name 和 music_id ,我仔細(xì)一看,獲取的id_list集合里(也就是標(biāo)簽集合里)的id根本不是id,是代碼,估計(jì)在這里音樂網(wǎng)站也做了相應(yīng)的反扒機(jī)制。

其次,我自己在網(wǎng)站里找到了一首音樂獲取了它的id并把id賦值給music_id,結(jié)果當(dāng)用外鏈下載音樂時(shí)報(bào)錯(cuò)460,顯示網(wǎng)絡(luò)擁擠,估計(jì)下載音樂的網(wǎng)址也不好使了。 

  1. base_url = 'http://music.163.com/song/media/outer/url?id='  
  2. music_id = '1804320463.mp3'  
  3. music_url = base_url + music_id  
  4. music = requests.get(url=music_url 
  5. print(music.text) 

{"msg":"網(wǎng)絡(luò)太擁擠,請(qǐng)稍候再試!","code":-460,"message":"網(wǎng)絡(luò)太擁擠,請(qǐng)稍候再試!"}

最后,我打印出music_url,點(diǎn)擊進(jìn)去,還是可以聽歌和下載的,不知道這是為什么了 

  1. base_url = 'http://music.163.com/song/media/outer/url?id='  
  2. music_id = '1804320463.mp3'  
  3. music_url = base_url + music_id  
  4. music = requests.get(url=music_url 
  5. print(music_url) 

music.163.com/song/media/…

總結(jié)

現(xiàn)在的網(wǎng)站技術(shù)更新太快,很多網(wǎng)站都有了高級(jí)反爬機(jī)制,畢竟嘛,有些東西還是不能隨隨便便就給你的,我寫這篇文章主要是跟大家分享一下我學(xué)習(xí)python爬蟲時(shí)的一些經(jīng)驗(yàn),同時(shí),我也想請(qǐng)教各位大神,像遇到了我這種問題了,我應(yīng)該怎么辦才能將這個(gè)網(wǎng)站的音樂文件爬到我的本地電腦里,還請(qǐng)各大神指點(diǎn)一二。 

 

責(zé)任編輯:龐桂玉 來源: 馬哥Linux運(yùn)維
相關(guān)推薦

2016-12-07 11:18:58

Python爬蟲網(wǎng)站

2021-01-24 16:40:00

Python爬取網(wǎng)站編程語言

2016-12-08 16:47:06

2017-12-14 21:45:39

2017-05-24 15:07:19

Python爬蟲爬取

2021-06-06 19:53:05

爬蟲處理字體反爬

2016-11-07 15:23:37

Python

2017-09-19 15:17:09

PythonBeautifulso爬取網(wǎng)站

2018-01-11 10:20:04

Python爬蟲豆瓣音樂

2014-03-11 11:21:23

2020-08-06 08:43:49

Python爬蟲數(shù)據(jù)

2021-06-02 22:18:11

Python關(guān)鍵詞微博

2018-03-22 11:38:18

2021-06-28 18:57:15

CSS網(wǎng)頁爬蟲

2021-04-16 08:02:05

Python下載音樂Python基礎(chǔ)

2018-06-25 15:15:11

編程語言Python爬蟲

2021-09-03 09:26:15

Python爬蟲百度百科

2017-11-20 09:46:08

python爬蟲Scrapy

2020-10-26 15:09:35

Python爬蟲網(wǎng)頁數(shù)據(jù)

2018-11-05 20:00:00

正則表達(dá)式爬蟲Python
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)

主站蜘蛛池模板: 日韩在线小视频 | 国产精品爱久久久久久久 | 手机在线观看 | 乳色吐息在线观看 | 久久国产精品99久久久久久丝袜 | 亚洲精品68久久久一区 | 91精品国产综合久久久动漫日韩 | 视频在线亚洲 | 中文字幕在线精品 | 久久久久久久久久性 | 一级aaaaaa毛片免费同男同女 | 欧美在线一区二区视频 | 丁香一区二区 | 91久久精品日日躁夜夜躁国产 | 亚洲欧美日韩精品久久亚洲区 | 国产第一页在线播放 | 久久精品 | caoporon| 观看毛片| 四虎永久免费黄色影片 | 久久久tv | 国产成人短视频在线观看 | av网站在线看 | 欧美 日韩 中文 | 国产精品永久免费视频 | 日韩精品免费视频 | 欧美在线观看一区二区 | 亚洲五码久久 | 日韩欧美一区在线 | 亚洲人成人一区二区在线观看 | 国产亚洲www | 久久99精品视频 | 狠狠爱网址| 国产精品一区二区av | 91精品国产日韩91久久久久久 | 黄色片av | 欧美a级网站 | 欧美色综合一区二区三区 | av在线免费观看网站 | 在线免费观看视频黄 | 欧美成人a|