常用标准库

常用标准库

操作系统接口

  • os模块提供了不少与操作系统相关联的函数。

      >>> import os
      >>> os.getcwd()      # 返回当前的工作目录
      'C:\\Python34'
      >>> os.chdir('/server/accesslogs')   # 修改当前的工作目录
      >>> os.system('mkdir today')   # 执行系统命令 mkdir
      0
    

文件通配符

  • glob模块提供了一个函数用于从目录通配符搜索中生成文件列表

      >>> import glob
      >>> glob.glob('*.py')
      ['primes.py', 'random.py', 'quote.py']
    

命令行参数

  • 通用工具脚本经常调用命令行参数。这些命令行参数以链表形式存储于 sys 模块的 argv 变量。例如在命令行中执行 “python demo.py one two three” 后可以得到以下输出结果

      >>> import sys
      >>> print(sys.argv)
      ['demo.py', 'one', 'two', 'three']
    

错误输出重定向和程序终止

  • sys 还有 stdin,stdout 和 stderr 属性,即使在 stdout 被重定向时,后者也可以用于显示警告和错误信息。

  • 大多脚本的定向终止都使用 “sys.exit()”。

      >>> sys.stderr.write('Warning, log file not found starting a new one\n')
      Warning, log file not found starting a new one
    

字符串正则匹配

  • re模块为高级字符串处理提供了正则表达式工具。对于复杂的匹配和处理,正则表达式提供了简洁、优化的解决方案

      >>> import re
      >>> re.findall(r'\bf[a-z]*', 'which foot or hand fell fastest')
      ['foot', 'fell', 'fastest']
      >>> re.sub(r'(\b[a-z]+) \1', r'\1', 'cat in the the hat')
      'cat in the hat'
    

数学

  • math模块为浮点运算提供了对底层C函数库的访问

      >>> import math
      >>> math.cos(math.pi / 4)
      0.70710678118654757
      >>> math.log(1024, 2)
      10.0
    
  • random提供了生成随机数的工具

      >>> import random
      >>> random.choice(['apple', 'pear', 'banana'])
      'apple'
      >>> random.sample(range(100), 10)   # sampling without replacement
      [30, 83, 16, 4, 8, 81, 41, 50, 18, 33]
      >>> random.random()    # random float
      0.17970987693706186
      >>> random.randrange(6)    # random integer chosen from range(6)
      4
    

访问 互联网

  • 有几个模块用于访问互联网以及处理网络通信协议。其中最简单的两个是用于处理从 urls 接收的数据的 urllib.request 以及用于发送电子邮件的 smtplib

      >>> from urllib.request import urlopen
      >>> for line in urlopen('http://tycho.usno.navy.mil/cgi-bin/timer.pl'):
      ...     line = line.decode('utf-8')  # Decoding the binary data to text.
      ...     if 'EST' in line or 'EDT' in line:  # look for Eastern Time
      ...         print(line)
    
      <BR>Nov. 25, 09:43:32 PM EST
    
      >>> import smtplib
      >>> server = smtplib.SMTP('localhost')
      >>> server.sendmail('soothsayer@example.org', 'jcaesar@example.org',
      ... """To: jcaesar@example.org
      ... From: soothsayer@example.org
      ...
      ... Beware the Ides of March.
      ... """)
      >>> server.quit()
    
  • 处理get请求,不传data,则为get请求

      import urllib
      from urllib.request import urlopen
      from urllib.parse import urlencode
    
      url='http://www.xxx.com/login'
      data={"username":"admin","password":123456}
      req_data=urlencode(data)#将字典类型的请求数据转变为url编码
      res=urlopen(url+'?'+req_data)#通过urlopen方法访问拼接好的url
      res=res.read().decode()#read()方法是读取返回数据内容,decode是转换返回数据的bytes格式为str
    
      print(res)
    
  • 处理post请求,如果传了data,则为post请求

      import urllib
      from urllib.request import Request
      from urllib.parse import urlencode
    
      url='http://www.xxx.com/login'
      data={"username":"admin","password":123456}
      data=urlencode(data)#将字典类型的请求数据转变为url编码
      data=data.encode('ascii')#将url编码类型的请求数据转变为bytes类型
      req_data=Request(url,data)#将url和请求数据处理为一个Request对象,供urlopen调用
      with urlopen(req_data) as res:
          res=res.read().decode()#read()方法是读取返回数据内容,decode是转换返回数据的bytes格式为str
    
      print(res)
    

日期和时间

  • datetime模块为日期和时间处理同时提供了简单和复杂的方法。支持日期和时间算法的同时,实现的重点放在更有效的处理和格式化输出。该模块还支持时区处理。

      >>> # dates are easily constructed and formatted
      >>> from datetime import date
      >>> now = date.today()
      >>> now
      datetime.date(2003, 12, 2)
      >>> now.strftime("%m-%d-%y. %d %b %Y is a %A on the %d day of %B.")
      '12-02-03. 02 Dec 2003 is a Tuesday on the 02 day of December.'
    
      >>> # dates support calendar arithmetic
      >>> birthday = date(1964, 7, 31)
      >>> age = now - birthday
      >>> age.days
      14368
    

数据压缩

  • 以下模块直接支持通用的数据打包和压缩格式:zlib,gzip,bz2,zipfile,以及 tarfile。

      >>> import zlib
      >>> s = b'witch which has which witches wrist watch'
      >>> len(s)
      41
      >>> t = zlib.compress(s)
      >>> len(t)
      37
      >>> zlib.decompress(t)
      b'witch which has which witches wrist watch'
      >>> zlib.crc32(s)
      226805979
    
  • 常用时间处理方法

      今天 today = datetime.date.today()
      昨天 yesterday = today - datetime.timedelta(days=1)
      上个月 last_month = today.month - 1 if today.month - 1 else 12
      当前时间戳 time_stamp = time.time()
      时间戳转datetime datetime.datetime.fromtimestamp(time_stamp)
      datetime转时间戳 int(time.mktime(today.timetuple()))
      datetime转字符串 today_str = today.strftime("%Y-%m-%d")
      字符串转datetime today = datetime.datetime.strptime(today_str, "%Y-%m-%d")
      补时差 today + datetime.timedelta(hours=8)
    

性能度量

  • 有些用户对了解解决同一问题的不同方法之间的性能差异很感兴趣。Python 提供了一个度量工具,为这些问题提供了直接答案。

      >>> from timeit import Timer
      >>> Timer('t=a; a=b; b=t', 'a=1; b=2').timeit()
      0.57535828626024577
      >>> Timer('a,b = b,a', 'a=1; b=2').timeit()
      0.54962537085770791
    

测试模块

  • doctest模块提供了一个工具,扫描模块并根据程序中内嵌的文档字符串执行测试。

      def average(values):
          """Computes the arithmetic mean of a list of numbers.
    
          >>> print(average([20, 30, 70]))
          40.0
          """
          return sum(values) / len(values)
    
      import doctest
      doctest.testmod()   # 自动验证嵌入测试
    
  • unittest模块不像 doctest模块那么容易使用,不过它可以在一个独立的文件里提供一个更全面的测试集。

      import unittest
    
      class TestStatisticalFunctions(unittest.TestCase):
    
          def test_average(self):
              self.assertEqual(average([20, 30, 70]), 40.0)
              self.assertEqual(round(average([1, 5, 7]), 1), 4.3)
              self.assertRaises(ZeroDivisionError, average, [])
              self.assertRaises(TypeError, average, 20, 30, 70)
    
      unittest.main() # Calling from the command line invokes all tests
    

参考

Python3 标准库概览

上一篇:js过期时间


下一篇:并行对hive表进行操作(按照日期分区,统计数据)