HTTP 客户端工具 -- curl

一. curl 命令行帮助

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
-a/--append 上传文件时, 附加到目标文件  
-A/--user-agent <string> 设置用户代理发送给服务器
- anyauth 可以使用“任何”身份验证方法
-b/--cookie <name=string/file> cookie字符串或文件读取位置
- basic 使用HTTP基本验证
-B/--use-ascii 使用ASCII /文本传输
-c/--cookie-jar <file> 操作结束后把cookie写入到这个文件中
-C/--continue-at <offset> 断点续转
-d/--data <data> HTTP POST方式传送数据
--data-ascii <data> 以ascii的方式post数据
--data-binary <data> 以二进制的方式post数据
--negotiate 使用HTTP身份验证
--digest 使用数字身份验证
--disable-eprt 禁止使用EPRT或LPRT
--disable-epsv 禁止使用EPSV
-D/--dump-header <file> 把header信息写入到该文件中
--egd-file <file> 为随机数据(SSL)设置EGD socket路径
--tcp-nodelay 使用TCP_NODELAY选项
-e/--referer 来源网址
-E/--cert <cert[:passwd]> 客户端证书文件和密码 (SSL)
--cert-type <type> 证书文件类型 (DER/PEM/ENG) (SSL)
--key <key> 私钥文件名 (SSL)
--key-type <type> 私钥文件类型 (DER/PEM/ENG) (SSL)
--pass <pass> 私钥密码 (SSL)
--engine <eng> 加密引擎使用 (SSL). "--engine list" for list
--cacert <file> CA证书 (SSL)
--capath <directory> CA目录 (made using c_rehash) to verify peer against (SSL)
--ciphers <list> SSL密码
--compressed 要求返回是压缩的形势 (using deflate or gzip)
--connect-timeout <seconds> 设置最大请求时间
--create-dirs 建立本地目录的目录层次结构
--crlf 上传是把LF转变成CRLF
-f/--fail 连接失败时不显示http错误
--ftp-create-dirs 如果远程目录不存在, 创建远程目录
--ftp-method [multicwd/nocwd/singlecwd] 控制CWD的使用
--ftp-pasv 使用 PASV/EPSV 代替端口
--ftp-skip-pasv-ip 使用PASV的时候,忽略该IP地址
--ftp-ssl 尝试用 SSL/TLS 来进行ftp数据传输
--ftp-ssl-reqd 要求用 SSL/TLS 来进行ftp数据传输
-F/--form <name=content> 模拟http表单提交数据
-form-string <name=string> 模拟http表单提交数据
-g/--globoff 禁用网址序列和范围使用{}和[]
-G/--get 以get的方式来发送数据
-h/--help 帮助
-H/--header <line>自定义头信息传递给服务器
--ignore-content-length 忽略的HTTP头信息的长度
-i/--include 输出时包括protocol头信息
-I/--head 只显示文档信息
从文件中读取-j/--junk-session-cookies忽略会话Cookie
- 界面<interface>指定网络接口/地址使用
- krb4 <级别>启用与指定的安全级别krb4
-j/--junk-session-cookies 读取文件进忽略session cookie
--interface <interface> 使用指定网络接口/地址
--krb4 <level> 使用指定安全级别的krb4
-k/--insecure 允许不使用证书到SSL站点
-K/--config 指定的配置文件读取
-l/--list-only 列出ftp目录下的文件名称
--limit-rate <rate> 设置传输速度
--local-port<NUM> 强制使用本地端口号
-m/--max-time <seconds> 设置最大传输时间
--max-redirs <num> 设置最大读取的目录数
--max-filesize <bytes> 设置最大下载的文件总量
-M/--manual 显示全手动
-n/--netrc 从netrc文件中读取用户名和密码
--netrc-optional 使用 .netrc 或者 URL来覆盖-n
--ntlm 使用 HTTP NTLM 身份验证
-N/--no-buffer 禁用缓冲输出
-o/--output 把输出写到该文件中
-O/--remote-name 把输出写到该文件中, 保留远程文件的文件名
-p/--proxytunnel 使用HTTP代理
--proxy-anyauth 选择任一代理身份验证方法
--proxy-basic 在代理上使用基本身份验证
--proxy-digest 在代理上使用数字身份验证
--proxy-ntlm 在代理上使用ntlm身份验证
-P/--ftp-port <address> 使用端口地址, 而不是使用PASV
-Q/--quote <cmd>文件传输前, 发送命令到服务器
-r/--range <range>检索来自HTTP/1.1或FTP服务器字节范围
--range-file 读取(SSL)的随机文件
-R/--remote-time 在本地生成文件时, 保留远程文件时间
--retry <num> 传输出现问题时, 重试的次数
--retry-delay <seconds> 传输出现问题时, 设置重试间隔时间
--retry-max-time <seconds> 传输出现问题时, 设置最大重试时间
-s/--silent静音模式. 不输出任何东西
-S/--show-error 显示错误
--socks4 <host[:port]> 用socks4代理给定主机和端口
--socks5 <host[:port]> 用socks5代理给定主机和端口
--stderr <file>
-t/--telnet-option <OPT=val> Telnet选项设置
--trace <file> 对指定文件进行debug
--trace-ascii <file> Like --跟踪但没有hex输出
--trace-time 跟踪/详细输出时, 添加时间戳
-T/--upload-file <file> 上传文件
--url <URL> Spet URL to work with
-u/--user <user[:password]>设置服务器的用户和密码
-U/--proxy-user <user[:password]>设置代理用户名和密码
-v/--verbose
-V/--version 显示版本信息
-w/--write-out [format]什么输出完成后
-x/--proxy <host[:port]>在给定的端口上使用HTTP代理
-X/--request <command>指定什么命令
-y/--speed-time 放弃限速所要的时间. 默认为30
-Y/--speed-limit 停止传输速度的限制, 速度时间'秒
-z/--time-cond 传送时间设置
-0/--http1.0 使用HTTP 1.0
-1/--tlsv1 使用TLSv1(SSL)
-2/--sslv2 使用SSLv2的(SSL)
-3/--sslv3 使用的SSLv3(SSL)
--3p-quote like -Q for the source URL for 3rd party transfer
--3p-url 使用url, 进行第三方传送
--3p-user 使用用户名和密码, 进行第三方传送
-4/--ipv4 使用IP4
-6/--ipv6 使用IP6
-#/--progress-bar 用进度条显示当前的传送状态

二. curl 示例用法

  1. 抓取页面内容到一个文件中

    1
    $  curl -o home.html  http://blog.51yip.com
  2. -O 大写, url需要具体到某个文件, 用于抓取页面内容,支持正则表达式

    1
    2
    $ curl -O http://blog.51yip.com/wp-content/uploads/2010/09/compare_varnish.jpg
    $ curl -O http://blog.51yip.com/wp-content/uploads/2010/[0-9][0-9]/aaaaa.jpg
  3. 模拟表单信息,模拟登录, 保存cookie信息

    1
    $ curl -c ./cookie_c.txt -F log=aaaa -F pwd=****** http://blog.51yip.com/wp-login.php
  4. 模拟表单信息,模拟登录,保存头信息

    1
    2
    3
    $  curl -D ./cookie_D.txt -F log=aaaa -F pwd=****** http://blog.51yip.com/wp-login.php 

    ** -c 产生的cookie和 -C 产生的cookie是不一样的
  5. 断点续传, -C (大写)

    1
    $  curl -C -O http://blog.51yip.com/wp-content/uploads/2010/09/compare_varnish.jpg
  6. 传送数据,最好使用登录页面测试,因为你传值过去后,curl回抓数据,你可以看到你传值有没有成功.

    1
    $ curl -d log=aaaa  http://blog.51yip.com/wp-login.php
  7. 显示抓取错误,

    1
    $ curl -f http://blog.51yip.com/asdf
  8. 伪造IP来源,有的网站会判断,请求来源地址

    1
    $ curl -e http://localhost http://blog.51yip.com/wp-login.php
  9. 使用代理访问http

    1
    $ curl -x 24.10.28.84:32779 -o home.html http://blog.51yip.com
  10. 比较大的东西,分段下载

    1
    2
    3
    4
    5
    $ curl -r 0-100 -o img.part1 http://blog.51yip.com/wp-content/uploads/2010/09/compare_varnish.jpg 
    $ curl -r 100-200 -o img.part1 http://blog.51yip.com/wp-content/uploads/2010/09/compare_varnish.jpg
    $ curl -r 200-300 -o img.part1 http://blog.51yip.com/wp-content/uploads/2010/09/compare_varnish.jpg
    $ curl -r 300-400 -o img.part1 http://blog.51yip.com/wp-content/uploads/2010/09/compare_varnish.jpg
    $ cat img.part* > img.jpg
  11. 不会显示下载进度信息

    1
    $ curl -s -o aaa.jpg  http://blog.51yip.com/wp-content/uploads/2010/09/compare_varnish.jpg
  12. 显示下载进度条

    1
    $ curl -# -O  http://blog.51yip.com/wp-content/uploads/2010/09/compare_varnish.jpg
  13. 通过ftp下载文件

    1
    2
    3
    4
    5
    $ curl -u 用户名:密码 -O http://blog.51yip.com/demo/curtain/bbstudy_files/style.css



    $ curl -O ftp://用户名:密码@ip:port/demo/curtain/bbstudy_files/style.css
  14. 通过ftp上传

    1
    $ curl -T test.sql ftp://用户名:密码@ip:port/demo/curtain/bbstudy_files/
  15. 自动跟踪重定向

    1
    2
    3
    $ curl  -L -e  '; auto'  -o output.html http://cmsadmin.zyberwttest.cn/Login.aspx http://www.sina.cn/login

    -e ';auto' 告诉它在跟踪重定向响应时传送Referer头信息. 这样做更加接近于真实的网页浏览器的行为.
  16. 自动跳转:

    1
    $ curl -L www.sina.com
  17. 显示请求头

    1
    2
    $ curl -i www.sina.com      # 显示请求头和网页文件代码
    $ curl -I www.sina.com # 只显示请求头.
  18. 显示通信过程

    1
    2
    3
    4
    5
    $ curl -v www.sina.com

    # 显示更详细信息
    $ curl --trace output.txt www.sina.com
    $ curl --trace-ascii output.txt www.sina.com
  19. 发送表单信息

    1
    2
    3
    4
    5
    6
    7
    8
    # GET
    $ curl example.com/form.cgi?data=xxx

    # POST
    $ curl -X POST --data "data=xxx" example.com/form.cgi

    # POST : 编码数据
    $ curl -X POST --data-urlencode "data=April 1" example.com/form.cgi
  20. 文件上传

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    假如 表单如下所示:

    <form method="POST" enctype='multipart/form-data' action="upload.cgi">
    <input type=file name=upload>
    <input type=submit name=press value="OK">
       </form>

    上传文件:

    $ curl --form update=@localfilename --form press=OK example.com/upload.form
  21. 添加 Referer 字段

    1
    $ curl --referer http://www.example.com http://www.example.com
  22. User Agent

    1
    $ curl --user-agent '[User Agent]' [URL]
  23. cookie

    1
    2
    3
    4
    5
    6
    # 文本 cookie
    $ curl --cookie "name=xxx" www.example.com

    # 文件 cookie
    $ curl -c cookies http://example.com # 保存 服务器 返回的 cookie 到 文件.
    $ curl -b cookies http://example.com # 使用 cookies 文件作为 cookie 信息 进行后续的操作.
  24. 增加 HTTP 头信息

    1
    $ curl --header "Content-Type:application/json" http://example.com
  25. HTTP 认证

    1
    $ curl --user name:password example.com
  26. 检测网站连通性能:

    1
    2
    3
    4
    5
    6
    $ curl -o /dev/null -s -w %{time_namelookup}'\n'%{time_connect}'\n'%{time_starttransfer}'\n'%{size_request}'\n'%{time_total}'\n'  http://www.aaa.com
    time_namelookup 域名解析时间
    time_connect 连接时间
    time_starttransfer 开始传输时间
    size_request 请求文件大小
    time_total 总时间
  27. curl 指定 DNS 解析地址

    这种方式在调试接口时, 十分有用, 而无需修改本地 hosts.

    1
    2
    # 访问 baidu.com/info.php 时, 指向服务器 10.12.20.21
    $ curl -H 'Host:baidu.com' http://10.12.20.21/info.php