爬蟲抓取股票數據分析

Ⅰ 如何用爬蟲抓取股市數據並生成分析報表

數據量太大太大，爬取數據太慢太慢，難！！！！
建數據倉庫，將抓取數據放入倉庫，再按自己思路做運算，得到各種報表。
靠爬蟲，難度太大。

Ⅱ 如何用python 爬蟲抓取金融數據

獲取數據是數據分析中必不可少的一部分，而網路爬蟲是是獲取數據的一個重要渠道之一。鑒於此，我拾起了Python這把利器，開啟了網路爬蟲之路。

本篇使用的版本為python3.5，意在抓取證券之星上當天所有A股數據。程序主要分為三個部分：網頁源碼的獲取、所需內容的提取、所得結果的整理。

一、網頁源碼的獲取

很多人喜歡用python爬蟲的原因之一就是它容易上手。只需以下幾行代碼既可抓取大部分網頁的源碼。

為了減少干擾，我先用正則表達式從整個頁面源碼中匹配出以上的主體部分，然後從主體部分中匹配出每隻股票的信息。代碼如下。

pattern=re.compile('<tbody[sS]*</tbody>')
body=re.findall(pattern,str(content)) #匹配<tbody和</tbody>之間的所有代碼pattern=re.compile('>(.*?)<')
stock_page=re.findall(pattern,body[0]) #匹配>和<之間的所有信息

其中compile方法為編譯匹配模式，findall方法用此匹配模式去匹配出所需信息，並以列表的方式返回。正則表達式的語法還挺多的，下面我只羅列所用到符號的含義。

語法 說明

. 匹配任意除換行符「 」外的字元

* 匹配前一個字元0次或無限次

？ 匹配前一個字元0次或一次

s 空白字元：[<空格> fv]

S 非空白字元：[^s]

[...] 字元集，對應的位置可以是字元集中任意字元

(...) 被括起來的表達式將作為分組，裡面一般為我們所需提取的內容

正則表達式的語法挺多的，也許有大牛隻要一句正則表達式就可提取我想提取的內容。在提取股票主體部分代碼時發現有人用xpath表達式提取顯得更簡潔一些，看來頁面解析也有很長的一段路要走。

三、所得結果的整理

通過非貪婪模式(.*?)匹配>和<之間的所有數據，會匹配出一些空白字元出來，所以我們採用如下代碼把空白字元移除。

stock_last=stock_total[:] #stock_total：匹配出的股票數據for data in stock_total: #stock_last：整理後的股票數據
if data=='':
stock_last.remove('')

最後，我們可以列印幾列數據看下效果，代碼如下

print('代碼',' ','簡稱',' ',' ','最新價',' ','漲跌幅',' ','漲跌額',' ','5分鍾漲幅')for i in range(0,len(stock_last),13): #網頁總共有13列數據
print(stock_last[i],' ',stock_last[i+1],' ',' ',stock_last[i+2],' ',' ',stock_last[i+3],' ',' ',stock_last[i+4],' ',' ',stock_last[i+5])

Ⅲ 如何用爬蟲抓取股市數據並生成分析報表

我用前嗅的forespider數據採集軟體爬過股市信息的，比較簡單，分析了一下歷史股價，目前數據還不多沒做太多分析。過幾天再說

Ⅳ 數據分析和爬蟲，看了幾家機構，還是百戰程序員不錯，有一起的嘛

爬蟲主要是負責抓取，解析，把數據從數據源抓取回來，解析成指定的格式，然後入庫。數據分析工程師，要分析他們抓來的數據，根據某種模型或者演算法，來找到數據的相關性之類的。

Ⅳ 爬蟲的數據分析難嗎

蜜蜂是提供網路信息定向採集的工具，它能夠對用戶設置的網站進行數據採集和更新，實現靈活的網路數據採集目標，為互聯網數據分析提供基矗

Ⅵ 網路爬蟲抓取數據 有什麼好的應用

蜜蜂是提供網路信息定向採集的工具，它能夠對用戶設置的網站進行數據採集和更新，實現靈活的網路數據採集目標，為互聯網數據分析提供基礎。

Ⅶ 爬蟲可以為我們做什麼，可以做數據分析房價行情嗎

可以啊，爬蟲是數據採集必備的技能
而數據分析必然要有數據才能分析，要數據必然就會涉及到數據採集也就是爬蟲。
你說的房價行情通過爬蟲爬取房源數據，匯總到資料庫就可以做一定程度上的分析。
爬蟲需要掌握Python基礎，re正則模塊，Beatifulsoup，pyquery，xpath，selenium，scrapy等一些知識點，能爬取任何網站，包括某寶，某東。一手資料有償低價給你。

Ⅷ 寫網路爬蟲 數據抓取 數據分析 Py怎麼樣 好不好

寫爬蟲耗費時間長，有時候還不如直接用市場上他們寫好的數據採集器呢，取決於要抓的數據~~推薦可以試下爬一爬採集器，採集數據比較高效，無論是否有編程基礎都可用。比較方便吧。。它們官網有介紹。你也可以看下這個網路經驗 http://jingyan..com/article/86112f139184012737978737.html。希望可以幫助到你

Ⅸ 如何用爬蟲抓取股市數據並生成分析報表

有的公司公布財務資料時以利潤及利潤分配表代替損益表，利潤及利潤分配表就是在損益表的基礎上再加上利潤分配的內容。通過閱讀與分析利潤表，股東可以了解公司一定期間內業務經營情況及利潤形成的全過程；了解公司利潤計劃的執行情況；分析收入、成本、費用、稅金各項目的構成比例是否合理；了解投資價值和投資回報率；預測公司在未來期間的經營業績趨勢；了解上市公司利潤分配情況；分析公司利潤分配程序和分配比例的合法性和合理性。