在学习python的过程中，经过不断的尝试及努力，终于完成了第一个像样的python程序，虽然还有很多需要优化的地方，但是目前基本上实现了我所要求的功能，先贴一下程序代码：
具体代码如下:
#! /usr/bin/python
import os,urllib2,re,time,mysqldb,sys
retitle = re.compile(‘]*>(.*?)]*’)
reneiron = re.compile(‘[1-9|a-z|a-z].*’)
retiqu = re.compile(‘^(?!marginwidth|br).*.[^>|}]$’)
rezhong = re.compile(‘^[^[].*’)
shijian=1190944000
str1=”\\n—————- blog of yao”
bianhao=2859
for i in range(1,1500):
str2=””
ltime=time.localtime(shijian)
timestr=time.strftime(“%y%m%d”,ltime)
url=”http://www.jokeswarehouse.com/cgi-bin/viewjoke2.cgi? %timestr
print url
a=urllib2.urlopen(url).read()
title=retitle.findall(a)
print “==========================================================================================================”
for titles in map(none,title):
titles=mysqldb.escape_string(titles)
print titles
neiron=re.findall(reneiron,a)
for i in map(none,neiron):
x=re.findall(retiqu,i)
for str in x:
str=mysqldb.escape_string(str)
str2 += str+”\\n”
shijian += 86400
bianhao += 1
try:
conn=mysqldb.connect(“xxxx.xxxx.xxxx.xxxx”,”user”,”passwd”,”dbname”,charset=”utf8″, init_command=”set names utf8″)
except mysqldb.operationalerror,message:
print “like error”
cursor=conn.cursor()
sql=”insert into wp_posts (post_author,post_date,post_date_gmt,post_content,post_content_filtered,post_title,post_excerpt,post_status,post_type,comment_status,ping_status,post_password,post_name,to_ping,pinged,post_modified,post_modified_gmt,post_parent,menu_order,guid) values (\’1\’,\’2011-06-01 22:12:25\’,\’2011-05-09 04:12:25\’,\’\’,\’\’,\’auto draft\’,\’\’,\’inherit\’,\’revision\’,\’open\’,\’open\’,\’\’,\’100-revision\’,\’\’,\’\’,\’2011-06-01 22:12:25\’,\’2011-05-09 04:12:25\’,\’%s\’,\’0\’,\’\’)” %bianhao
sql2=”update wp_posts set post_author = 1, post_date = \’2011-06-01 22:12:25\’, post_date_gmt = \’2011-06-01 22:12:25\’, post_content =\’%s\’, post_content_filtered = \’\’, post_title = \’%s\’, post_excerpt = \’\’, post_status = \’publish\’, post_type = \’post\’, comment_status = \’open\’, ping_status = \’open\’, post_password = \’\’, post_name = \’%s\’, to_ping = \’\’, pinged = \’\’, post_modified = \’2011-06-01 22:12:25\’, post_modified_gmt = \’2011-05-09 04:12:30\’, post_parent = 0, menu_order = 0, guid = \’http://www.moncleronlineshops.com/?p=%s\’ where id = %s” %(str2,titles,titles,bianhao,bianhao)
cursor.execute(sql)
cursor.execute(sql2)
cursor.close()
conn.close()
sys.exit()
下面，我们来给代码加些注释，让读者能看的更明白一些，如下：
具体代码如下
#! /usr/bin/python
import os,urllib2,re,time,mysqldb,sys #加载本程序需要调用的相模块
retitle = re.compile(‘]*>(.*?) ]*’) # 定义一下取文章标题的正则
reneiron = re.compile(‘[1-9|a-z|a-z].*’)
#定义一个取提取文章内容的正则(注：这里提取出来的不是很精细，需要在下面的正则里，再进行提取，这里只是取一个大概)
retiqu = re.compile(‘^(?!marginwidth|br).*.[^>|}]$’)
#这里定义一个正则，将上面reneiron提取出来的字符，再进行细化。
shijian=1190944000 #这里字义了一个时间戳，
str1=”\\n—————- blog of yao” #这个没用，开始是准备加到文章里的，后来没加进去。
bianhao=2859 #这里是wordpress 的文章编号，直接查看wp-posts表的id 字段的最后一个数字。
for i in range(1,1500): #循环1500遍，也就是采集1500篇文章。
str2=”” #先赋值给str2 空值
ltime=time.localtime(shijian)
timestr=time.strftime(“%y%m%d”,ltime) #这两句将上面的时间戳改为时间，样式为19700101这样的格式
url=”http://www.jokeswarehouse.com/cgi-bin/viewjoke2.cgi? %timestr #定义要采集的网站，将转化后的时间放在这个url的最后。
a=urllib2.urlopen(url).read() #将这个网页的源代码读出来，赋值给a;
title=retitle.findall(a)
#使用 retitle这个正则提取出标题
print “==========================================================================================================”
for titles in map(none,title): #上面提取出来的标题前后都有一个 []
所以我们要写个for循环把前后的[]去掉，并转义成能直接插入mysql库的格式。
titles=mysqldb.escape_string(titles)
neiron=re.findall(reneiron,a) #先用reneiron，取个大概的内容模型出来。这些都是以逗号分隔的数组。
for i in map(none,neiron): # 我们来循环读出neiron这个数组里的每个值。
x=re.findall(retiqu,i)#并用 retiqu这个正则提出精细出的内容。
for str in x:
str=mysqldb.escape_string(str)
str2 += str+”\\n”
#利用这个循环，我们把内容加到一起，并赋值给str2这个变量，这个 str2这个变量就是所有的文章内容。
shijian += 86400 #每循环一次，就把shijian这个变量加上一天。
bianhao += 1 #每循环一次，就把bianhao这个变量加上一
try:
#下面是用mysqldb连接数据库，并尝试连接是否成功。 conn=mysqldb.connect(“xxxx.xxxx.xxxx.xxxx”,”user”,”passwd”,”dbname”,charset=”utf8″, init_command=”set names utf8″)
except mysqldb.operationalerror,message:
print “like error”
cursor=conn.cursor()
#下面是插入wordpress数据库的两条语句，我是从mysqlbinlog里面导出来的，测试是可以插入数据库，并能正常把内容显示在网页的。变量都写在这两条语句里。
sql=”insert into wp_posts (post_author,post_date,post_date_gmt,post_content,post_content_filtered,post_title,post_excerpt,post_status,post_type,comment_status,ping_status,post_password,post_name,to_ping,pinged,post_modified,post_modified_gmt,post_parent,menu_order,guid) values (\’1\’,\’2011-06-01 22:12:25\’,\’2011-05-09 04:12:25\’,\’\’,\’\’,\’auto draft\’,\’\’,\’inherit\’,\’revision\’,\’open\’,\’open\’,\’\’,\’100-revision\’,\’\’,\’\’,\’2011-06-01 22:12:25\’,\’2011-05-09 04:12:25\’,\’%s\’,\’0\’,\’\’)” %bianhao
sql2=”update wp_posts set post_author = 1, post_date = \’2011-06-01 22:12:25\’, post_date_gmt = \’2011-06-01 22:12:25\’, post_content =\’%s\’, post_content_filtered = \’\’, post_title = \’%s\’, post_excerpt = \’\’, post_status = \’publish\’, post_type = \’post\’, comment_status = \’open\’, ping_status = \’open\’, post_password = \’\’, post_name = \’%s\’, to_ping = \’\’, pinged = \’\’, post_modified = \’2011-06-01 22:12:25\’, post_modified_gmt = \’2011-05-09 04:12:30\’, post_parent = 0, menu_order = 0, guid = \’http://www.moncleronlineshops.com/?p=%s\’ where id = %s” %(str2,titles,titles,bianhao,bianhao)
cursor.execute(sql)
cursor.execute(sql2) #连接数据库并执行这两条语句。
cursor.close()
conn.close() #关闭数据库。
sys.exit()
上面是程序的代码，采集的是：www.jokeswarehouse.com 的一个笑话网站。通过 python 的 re 模块，也就是正则匹配模块，运行相应的正则表达式，进行过滤出我们所需要的标题和文章内容，再运用 python 的mysqldb 模块，进行连接数据库，利用相应的插入语句，进行插入数据库。