成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

MySQL百萬級高并發(fā)網(wǎng)站實戰(zhàn)攻略

數(shù)據(jù)庫 MySQL 數(shù)據(jù)庫運(yùn)維
在長時間的網(wǎng)站開發(fā)過程中,能作一個百萬IP的網(wǎng)站對作者來說真是一個新的挑戰(zhàn)。本文將講述作者的經(jīng)歷。

在一開始接觸PHP接觸MYSQL的時候就聽不少人說:“MySQL就跑跑一天幾十萬IP的小站還可以,要是幾百萬IP就不行了”,原話不記得了,大體就是這個意思。一直也沒有好的機(jī)會去驗證這個說法,一是從沒有接手過這么大流量的網(wǎng)站,二是平時工作也比較忙,懶得去管這些,反正現(xiàn)在用不著,抱著這個想法把這個問題一直留到了最近,才把這個問題搞明白。

就在前幾天公司旗下一網(wǎng)站(由于這是公司的商業(yè)內(nèi)容我就不說是那個網(wǎng)站了)以下簡稱A站,這A站在年后流量猛增從一天的七八十萬猛跑到了好幾百萬的IP,一天下來接近一千萬的PV讓整個服務(wù)器在高壓下超負(fù)荷的工作著,時不時的服務(wù)就出現(xiàn)宕機(jī)。

最首先反映出情況的是數(shù)據(jù)統(tǒng)計,一天下來一個數(shù)據(jù)也沒有統(tǒng)計上,原來是MySQL停止工作了。

本文就圍繞這個問題來講講我們公司幾個技術(shù)人員的解決方案。

1. MySQL服務(wù)器集群

由于是小公司在資金和成本上都有所限制,而且在技術(shù)上也沒有幾個技術(shù)員接觸過,所以這個方法自然就讓大伙否決了。

這里說說我個人的理解!做集群不但添加資費(fèi)的開銷,而且在技術(shù)上也有很大的挑戰(zhàn),對于我們公司目前的情況是不大現(xiàn)實的。集群無非就是把一臺服務(wù)器的壓力轉(zhuǎn)接到兩臺或是多臺服務(wù)器上,我是這么理解的,也許我理解有誤,還請大家指教。

2. 分而治之

這個方法和集群差不多,不過是把統(tǒng)計的代碼放在不同的服務(wù)器上跑,由于公司有不少配置低的服務(wù)器跑幾萬到幾十萬IP還是沒有問題的,我們可以把幾百萬流量分成十來個幾十萬的量分而統(tǒng)計。

優(yōu)點:充分的利用了現(xiàn)在的資源,解決了目前的問題。

缺點:這樣的方法不是長久之計,遲早還是會出問題的。而且在統(tǒng)計數(shù)據(jù)的時候比較麻煩。

3. 統(tǒng)計代碼的修改

由于之前采用的是在插入數(shù)據(jù)之前加以判斷,這個IP是否存在,來路等的處理,無形中增加了服務(wù)器的壓力,所以大伙把統(tǒng)計代碼改成來一個就插入數(shù)據(jù)庫,不管三七二十一等以后在處理。

這個方法基本上把當(dāng)天的數(shù)據(jù)保留下來了,可是在處理的時候由于數(shù)據(jù)量的龐大,來來回回還是把服務(wù)器跑死了,而且在插入的時候由于當(dāng)時設(shè)計數(shù)據(jù)結(jié)構(gòu)的時候留有的索引,也大大的消耗了不少的服務(wù)器資源。

那么把索引去掉到最后處理的時候又是老慢的,得不償失。

4. 統(tǒng)計方式的修改

最后這一個方法,效果非常的明顯。那是什么方法呢!

這里就主要介紹這個方法:

A、 保留原用的數(shù)據(jù)結(jié)構(gòu)不變,并把所有的數(shù)據(jù)按一定的結(jié)構(gòu)存入文件

結(jié)構(gòu):可以是xml,json,也可以是你自己想的任何有規(guī)律的數(shù)據(jù)排放。

例如:

1 221.2.70.52,http://www.baidu.com,windowxp\r\n
2 221.2.70.52,http://www.baidu.com,windowxp\r\n

寫入文件:fopen,fwrite??no 這里介紹一個非常好用的技巧,也許大家都知道,但是像我這樣的菜鳥大概都不知道,那就是用error_log,這不是寫錯誤日志的嗎?對就是他,非常方便。

格式:

1 error_log("內(nèi)容", 3, "/date.dat");

這里我就不說他的具體用了,不明白的朋友可以查一下手冊。

B、數(shù)據(jù)文件的命名

為什么這里要講文件的命名呢?如果就一味的把數(shù)據(jù)的寫入文件不作任何的處理那么他和直接插入數(shù)據(jù)庫有多大的區(qū)別呢?那么我們所作的一切都是無用功了。

首先是在時間的利用上:date(‘YmdH’)得到的值是如:2008121112這有什么好入,這樣一來這個數(shù)據(jù)就是一個小時一個文件必免了文件過大,而且不用去判斷自動生成。

IP的應(yīng)用:由于在很多數(shù)據(jù)上都是一個IP操作的,所以把相同IP的數(shù)據(jù)放在一個文件里在后面的處理就非常方便處理。請看后面的介紹,這里我們?nèi)P成三位為文件名字的一部分。

C、數(shù)據(jù)的導(dǎo)入處理

通過以上兩位的操作當(dāng)天的數(shù)據(jù)會一個不少的保留下來,接下來怎么處理其實并不是很重要了。但是這里還是講講我的想法。

入庫前處理:

前面講到把IP三位相同的放一個文件就是為了入庫前到它們進(jìn)行處理,首先可以用最笨的方法把數(shù)據(jù)拆成N個數(shù)據(jù)。在進(jìn)行重復(fù)數(shù)據(jù)的刪除。

如果一個IP瀏覽多頁那么PV在這里就可以得到統(tǒng)計,并把訪問的頁面進(jìn)行處理,組成新的數(shù)據(jù)。

導(dǎo)入方法:

這里要介紹一下數(shù)據(jù)的導(dǎo)入方法

1 $sql="LOAD DATA INFILE '".$file."' INTO TABLE `test` FIELDS TERMINATED BY ',
   ' LINES TERMINATED BY '\r\n'(
2
3   `time` , `md5`
4
5   )";

就這一個語句,在導(dǎo)入幾十萬數(shù)據(jù)的時候可以說是十分快速的,用法我這里也不過多介紹了,大家有不明白的可以查手冊,所以說解決數(shù)據(jù)庫的瓶頸的辦法不定要加設(shè)備,也不一定要換數(shù)據(jù)庫,只要換一個思路就能解決不少問題。

【編輯推薦】

  1. MySQL鮮為人知的幾個特殊技巧
  2. MySQL數(shù)據(jù)庫之UPDATE更新語句精解
  3. PHP將數(shù)據(jù)從Oracle向MySQL數(shù)據(jù)遷移實例
責(zé)任編輯:彭凡 來源: IT168
相關(guān)推薦

2011-08-23 17:12:22

MySQL支撐百萬級流

2017-01-09 16:06:19

2025-05-26 02:11:00

2019-02-12 09:34:00

微博短視頻架構(gòu)

2025-02-14 03:00:00

2010-07-23 08:48:21

PHP架構(gòu)

2011-11-03 13:59:05

2025-06-05 01:22:00

SpringGateway高并發(fā)

2009-06-16 14:43:23

大型網(wǎng)站系統(tǒng)架構(gòu)

2019-12-31 10:33:57

Netty高性能內(nèi)存

2010-12-06 15:05:08

2010-12-09 14:38:59

百萬級訪問網(wǎng)站

2010-12-17 13:01:55

2014-02-10 16:27:09

百萬級IOPSOceanStor 1

2018-12-20 09:13:39

Linux服務(wù)器高并發(fā)

2020-01-13 10:20:30

架構(gòu)聊天架構(gòu)百萬并發(fā)量

2025-05-30 03:40:00

2022-05-17 11:06:44

數(shù)據(jù)庫MySQL系統(tǒng)

2020-10-16 16:40:26

Linux高并發(fā)命令

2015-01-14 14:07:12

聽云Server
點贊
收藏

51CTO技術(shù)棧公眾號

主站蜘蛛池模板: 中文字幕免费视频 | 国产精品观看 | 欧美精品一区二区三区在线四季 | 天天玩夜夜操 | 免费黄色a级毛片 | 一区二区在线不卡 | 久久精品二区 | 日韩欧美亚洲 | 91精品久久久久久久久久入口 | 99热这里有精品 | www.久久 | 国产一级免费视频 | 久久久久久成人 | 国产亚洲一区二区三区在线观看 | 在线免费观看成年人视频 | 国产欧美精品区一区二区三区 | 天天视频成人 | 欧美视频免费在线观看 | 成人免费视频播放 | 亚洲国产精品区 | 自拍视频一区二区三区 | 亚洲欧美日韩精品久久亚洲区 | 亚洲丝袜天堂 | 日本天天操 | 亚洲精品视频在线播放 | 国产综合久久 | 国内自拍偷拍视频 | 欧美一区二区三区视频 | 免费黄色成人 | av入口 | 国产日韩精品视频 | 成人精品一区二区三区四区 | 日日摸夜夜添夜夜添精品视频 | 在线视频亚洲 | 久久精品无码一区二区三区 | 伊人久久麻豆 | 中文精品视频 | 国产欧美精品区一区二区三区 | 欧美日韩成人在线 | 国产精品揄拍一区二区久久国内亚洲精 | 国产97人人超碰caoprom |