unify mirror support and make it independant of the fetcher
[bitbake.git] / lib / bb / fetch / wget.py
1 # ex:ts=4:sw=4:sts=4:et
2 # -*- tab-width: 4; c-basic-offset: 4; indent-tabs-mode: nil -*-
3 """
4 BitBake 'Fetch' implementations
5
6 Classes for obtaining upstream sources for the
7 BitBake build tools.
8
9 """
10
11 # Copyright (C) 2003, 2004  Chris Larson
12 #
13 # This program is free software; you can redistribute it and/or modify
14 # it under the terms of the GNU General Public License version 2 as
15 # published by the Free Software Foundation.
16 #
17 # This program is distributed in the hope that it will be useful,
18 # but WITHOUT ANY WARRANTY; without even the implied warranty of
19 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
20 # GNU General Public License for more details.
21 #
22 # You should have received a copy of the GNU General Public License along
23 # with this program; if not, write to the Free Software Foundation, Inc.,
24 # 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
25 #
26 # Based on functions from the base bb module, Copyright 2003 Holger Schurig
27
28 import os
29 import bb
30 from   bb import data
31 from   bb.fetch import Fetch
32 from   bb.fetch import FetchError
33
34 class Wget(Fetch):
35     """Class to fetch urls via 'wget'"""
36     def supports(self, url, ud, d):
37         """
38         Check to see if a given url can be fetched with wget.
39         """
40         return ud.type in ['http','https','ftp']
41
42     def localpath(self, url, ud, d):
43
44         url = bb.encodeurl([ud.type, ud.host, ud.path, ud.user, ud.pswd, {}])
45         ud.basename = os.path.basename(ud.path)
46         ud.localfile = data.expand(os.path.basename(url), d)
47
48         return os.path.join(data.getVar("DL_DIR", d, True), ud.localfile)
49
50     def go(self, uri, ud, d, checkonly = False):
51         """Fetch urls"""
52
53         def fetch_uri(uri, ud, d):
54             if checkonly:
55                 fetchcmd = data.getVar("CHECKCOMMAND", d, 1)
56             elif os.path.exists(ud.localpath):
57                 # file exists, but we didnt complete it.. trying again..
58                 fetchcmd = data.getVar("RESUMECOMMAND", d, 1)
59             else:
60                 fetchcmd = data.getVar("FETCHCOMMAND", d, 1)
61
62             uri = uri.split(";")[0]
63             uri_decoded = list(bb.decodeurl(uri))
64             uri_type = uri_decoded[0]
65             uri_host = uri_decoded[1]
66
67             bb.msg.note(1, bb.msg.domain.Fetcher, "fetch " + uri)
68             fetchcmd = fetchcmd.replace("${URI}", uri.split(";")[0])
69             fetchcmd = fetchcmd.replace("${FILE}", ud.basename)
70             httpproxy = None
71             ftpproxy = None
72             if uri_type == 'http':
73                 httpproxy = data.getVar("HTTP_PROXY", d, True)
74                 httpproxy_ignore = (data.getVar("HTTP_PROXY_IGNORE", d, True) or "").split()
75                 for p in httpproxy_ignore:
76                     if uri_host.endswith(p):
77                         httpproxy = None
78                         break
79             if uri_type == 'ftp':
80                 ftpproxy = data.getVar("FTP_PROXY", d, True)
81                 ftpproxy_ignore = (data.getVar("HTTP_PROXY_IGNORE", d, True) or "").split()
82                 for p in ftpproxy_ignore:
83                     if uri_host.endswith(p):
84                         ftpproxy = None
85                         break
86             if httpproxy:
87                 fetchcmd = "http_proxy=" + httpproxy + " " + fetchcmd
88             if ftpproxy:
89                 fetchcmd = "ftp_proxy=" + ftpproxy + " " + fetchcmd
90             bb.msg.debug(2, bb.msg.domain.Fetcher, "executing " + fetchcmd)
91             ret = os.system(fetchcmd)
92             if ret != 0:
93                 return False
94
95             # Sanity check since wget can pretend it succeed when it didn't
96             # Also, this used to happen if sourceforge sent us to the mirror page
97             if not os.path.exists(ud.localpath) and not checkonly:
98                 bb.msg.debug(2, bb.msg.domain.Fetcher, "The fetch command for %s returned success but %s doesn't exist?..." % (uri, ud.localpath))
99                 return False
100
101             return True
102
103         localdata = data.createCopy(d)
104         data.setVar('OVERRIDES', "wget:" + data.getVar('OVERRIDES', localdata), localdata)
105         data.update_data(localdata)
106
107         if fetch_uri(uri, ud, localdata):
108             return True
109
110         raise FetchError(uri)
111
112
113     def checkstatus(self, uri, ud, d):
114         return self.go(uri, ud, d, True)