Makefile: renice bitbake
[opendreambox.git] / Makefile
1 #!/usr/bin/make -f
2 #
3 # Copyright (c) 2010-2014 Dream Property GmbH, Germany
4 #                         http://www.dream-multimedia-tv.de/
5 # Authors:
6 #   Andreas Oberritter <obi@opendreambox.org>
7 #
8 # Permission is hereby granted, free of charge, to any person obtaining a copy
9 # of this software and associated documentation files (the "Software"), to deal
10 # in the Software without restriction, including without limitation the rights
11 # to use, copy, modify, merge, publish, distribute, sublicense, and/or sell
12 # copies of the Software, and to permit persons to whom the Software is
13 # furnished to do so, subject to the following conditions:
14 #
15 # The above copyright notice and this permission notice shall be included in
16 # all copies or substantial portions of the Software.
17 #
18 # THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
19 # IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
20 # FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
21 # AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
22 # LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
23 # OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN
24 # THE SOFTWARE.
25 #
26
27 # Note: You can override all variables by storing them
28 # in an external file called "make.conf".
29 -include conf/make.conf
30
31 # Target platforms:
32 # dm500hdv2, dm520, dm800sev2, dm820,
33 # dm7020hd, dm7020hdv2, dm7080, dm8000
34 #
35 # This only sets the default value. All platforms now use a shared build
36 # directory. Run "MACHINE=dm800sev2 bitbake dreambox-image" to build an image
37 # for the dm800sev2, if it is not the default.
38 MACHINE ?= dm7080
39
40 USER_MACHINE := $(MACHINE)
41
42 MAKE_IMAGE_BB ?= dreambox-image
43
44 # Adjust according to the number CPU cores to use for parallel build.
45 # Default: Number of processors in /proc/cpuinfo, if present, or 1.
46 NR_CPU := $(shell [ -f /proc/cpuinfo ] && grep -c '^processor\s*:' /proc/cpuinfo || echo 1)
47 BB_NUMBER_THREADS ?= $(NR_CPU)
48 PARALLEL_MAKE ?= -j $(NR_CPU)
49
50 NICE ?= nice -n 19
51 XSUM ?= md5sum
52
53 BUILD_DIR = $(CURDIR)/build
54 TOPDIR = $(BUILD_DIR)/$(MACHINE)
55 DL_DIR = $(CURDIR)/sources
56 PERSISTENT_DIR = $(CURDIR)/persist-cache
57 SSTATE_DIR = $(CURDIR)/sstate-cache
58 TMPDIR = $(TOPDIR)/tmp
59 DEPDIR = $(CURDIR)/.deps
60
61 BITBAKE = . $(CURDIR)/bitbake.env && cd $(TOPDIR) && $(NICE) bitbake
62
63 BBLAYERS ?= \
64         $(CURDIR)/meta-dreambox \
65         $(CURDIR)/meta-opendreambox \
66         $(CURDIR)/meta-openembedded/meta-filesystems \
67         $(CURDIR)/meta-openembedded/meta-multimedia \
68         $(CURDIR)/meta-openembedded/meta-networking \
69         $(CURDIR)/meta-openembedded/meta-oe \
70         $(CURDIR)/meta-openembedded/meta-python \
71         $(CURDIR)/meta-openembedded/meta-ruby \
72         $(CURDIR)/meta-qt5 \
73         $(CURDIR)/openembedded-core/meta
74
75 CONFFILES_AUTO = \
76         bitbake.env \
77         conf/opendreambox.conf \
78         $(TOPDIR)/conf/bblayers.conf \
79         $(TOPDIR)/conf/local.conf
80
81 CONFFILES_MANUAL = \
82         .cross-compile-$(MACHINE).env
83
84 CONFDEPS = \
85         $(DEPDIR)/.bitbake.env.$(BITBAKE_ENV_HASH) \
86         $(DEPDIR)/.opendreambox.conf.$(OPENDREAMBOX_CONF_HASH) \
87         $(DEPDIR)/.bblayers.conf.$(MACHINE).$(BBLAYERS_CONF_HASH) \
88         $(DEPDIR)/.local.conf.$(MACHINE).$(LOCAL_CONF_HASH) \
89         $(DEPDIR)/.cross-compile.env.$(MACHINE).$(CROSS_COMPILE_ENV_HASH)
90
91 CONFFILES_BITBAKE = \
92         conf/opendreambox.conf \
93         openembedded-core/meta/conf/bitbake.conf \
94         $(wildcard \
95                 conf/bblayers-ext.conf \
96                 conf/bblayers-$(MACHINE)-ext.conf \
97                 conf/local-ext.conf \
98                 conf/local-$(MACHINE)-ext.conf)
99
100 GIT ?= git
101 GIT_REMOTE := $(shell $(GIT) remote)
102 GIT_USER_NAME := $(shell $(GIT) config user.name)
103 GIT_USER_EMAIL := $(shell $(GIT) config user.email)
104
105 hash = $(shell echo $(1) | $(XSUM) | awk '{print $$1}')
106
107 .DEFAULT_GOAL := all
108 all: init usage
109
110 $(BBLAYERS):
111         [ -d $@ ] || $(MAKE) $(MFLAGS) update
112
113 init: $(BBLAYERS) $(CONFFILES_AUTO)
114
115 help:
116         @echo "Your options:"
117         @echo
118         @echo "  * Update the SDK"
119         @echo "      $$ $(MAKE) update"
120         @echo
121         @echo "  * Build the PDF documentation (doc/opendreambox.pdf, requires pdfTeX):"
122         @echo "      $$ $(MAKE) doc"
123         @echo
124         @echo "  * View the documentation in text format:"
125         @echo "      $$ view doc/opendreambox.txt"
126         @echo
127         @echo "  * Select a new target machine:"
128         @echo "      $$ echo MACHINE=dm800sev2 >> conf/make.conf"
129         @echo "    [Valid values: dm500hdv2, dm800sev2, dm820, dm7020hd, dm7020hdv2, dm7080, dm8000]"
130         @echo
131         @echo "  * Build a firmware image for the selected target machine:"
132         @echo "      $$ $(MAKE) image"
133         @echo
134         @echo "  * Build a firmware image for a different target machine:"
135         @echo "      $$ $(MAKE) image MACHINE=dm800sev2"
136         @echo "    [Valid values: dm500hdv2, dm520, dm800sev2, dm820, dm7020hd, dm7020hdv2, dm7080, dm8000]"
137         @echo
138         @echo "  * Download all source files at once:"
139         @echo "      $$ $(MAKE) download"
140         @echo
141         @echo "  * Set up the environment to build recipes manually:"
142         @echo "      $$ source bitbake.env"
143         @echo "      $$ cd build/$(MACHINE)"
144         @echo "      $$ bitbake <target>"
145         @echo "    [Replace <target> with a recipe name, e.g. $(MAKE_IMAGE_BB) or enigma2]"
146         @echo
147         @echo "Your current settings:"
148         @echo "  MACHINE = $(USER_MACHINE)"
149         @echo
150         @echo "  BB_NUMBER_THREADS = $(BB_NUMBER_THREADS)"
151         @echo "  PARALLEL_MAKE = $(PARALLEL_MAKE)"
152         @echo
153         @echo "Trouble finding a recipe? Try ./scripts/drepo grep 'search string'"
154         @echo "or ./scripts/drepo find -name \"*recipe*\"."
155         @echo
156         @if [ -z "$(GIT_USER_NAME)" -o -z "$(GIT_USER_EMAIL)" ]; then \
157                 echo "Before doing any commits, please configure your name and email"; \
158                 echo "address using the following commands:"; \
159                 echo; \
160                 echo "  $$ $(GIT) config user.name \"Your Name\""; \
161                 echo "  $$ $(GIT) config user.email \"mail@example.com\""; \
162         else \
163                 echo "Git has been configured for $(GIT_USER_NAME) <$(GIT_USER_EMAIL)>."; \
164                 echo "Please submit patches to <enigma2-devel@lists.elitedvb.net>."; \
165         fi
166
167 usage:
168         @echo "[*] Please run '$(MAKE) help' to display further information!"
169
170 clean:
171         @echo '[*] Deleting generated configuration files'
172         @$(RM) $(CONFFILES_AUTO) $(CONFFILES_MANUAL) $(CONFDEPS)
173         @$(MAKE) $(MFLAGS) -C doc clean
174
175 distclean: clean
176         @echo '[*] Deleting dependencies directory'
177         @$(RM) -r $(DEPDIR)
178         @echo '[*] Deleting download directory'
179         @$(RM) -r $(DL_DIR)
180         @echo '[*] Deleting tmp directory'
181         @$(RM) -r $(TMPDIR)
182         @echo '[*] Deleting sstate directory'
183         @$(RM) -r $(SSTATE_DIR)
184         @echo '[*] Deleting persistent directory'
185         @$(RM) -r $(PERSISTENT_DIR)
186         @echo '[*] Deleting build directory'
187         @$(RM) -r $(BUILD_DIR)
188         @echo '[*] Deleting git submodules'
189         @$(GIT) submodule foreach 'rm -rf .* * 2>/dev/null || true'
190
191 # function to convert simple space separated list to csv
192 space :=
193 space +=
194 comma := ,
195 csv = $(subst $(space),$(comma),$(strip $1))
196
197 sstate-cache-clean: init
198         @echo '[*] Cleaning up sstate-cache'
199         @. $(CURDIR)/bitbake.env && sstate-cache-management.sh --cache-dir=$(SSTATE_DIR) --stamps-dir=$(call csv,$(wildcard $(CURDIR)/build/*/tmp*/stamps)) -v
200
201 doc:
202         @$(MAKE) $(MFLAGS) -C doc
203
204 dreambox-image enigma2 package-index: init
205         @echo '[*] Building $@ for $(USER_MACHINE)'
206         @$(BITBAKE) $@
207
208 image: init
209         @echo '[*] Building $@ for $(USER_MACHINE)'
210         @$(BITBAKE) $(MAKE_IMAGE_BB)
211
212 console-image: init
213         @echo '[*] Building $@ for $(USER_MACHINE)'
214         @$(BITBAKE) dreambox-$@
215
216 rescue-image: init
217         @echo '[*] Building $@ for $(USER_MACHINE)'
218         @$(BITBAKE) linux-dreambox-rescue
219
220 download: init
221         @echo '[*] Downloading sources'
222         @$(BITBAKE) -cfetchall -k $(MAKE_IMAGE_BB)
223
224 update:
225         @echo '[*] Updating Git repositories...'
226         @HASH=`$(XSUM) $(MAKEFILE_LIST)`; \
227         if [ -n "$(GIT_REMOTE)" ]; then \
228                 $(GIT) pull --ff-only || $(GIT) pull --rebase || exit 1; \
229         fi; \
230         if [ "$$HASH" != "`$(XSUM) $(MAKEFILE_LIST)`" ]; then \
231                 echo '[*] Makefile changed. Restarting...'; \
232                 $(MAKE) $(MFLAGS) --no-print-directory $(MAKECMDGOALS); \
233         else \
234                 $(GIT) submodule sync && \
235                 $(GIT) submodule update --init && \
236                 echo "[*] The Dreambox SDK is now up-to-date."; \
237         fi
238
239 .PHONY: all clean doc help image init update usage
240
241 MACHINE_INCLUDE_CONF = $(CURDIR)/conf/$(basename $(@F))-$(MACHINE)-ext.conf
242 DISTRO_INCLUDE_CONF = $(CURDIR)/conf/$(basename $(@F))-ext.conf
243
244 BB_ENV_EXTRAWHITE = MACHINE DISTRO TCMODE TCLIBC HTTP_PROXY http_proxy \
245         HTTPS_PROXY https_proxy FTP_PROXY ftp_proxy FTPS_PROXY ftps_proxy ALL_PROXY \
246         all_proxy NO_PROXY no_proxy SSH_AGENT_PID SSH_AUTH_SOCK BB_SRCREV_POLICY \
247         SDKMACHINE BB_NUMBER_THREADS BB_NO_NETWORK PARALLEL_MAKE GIT_PROXY_COMMAND \
248         SOCKS5_PASSWD SOCKS5_USER SCREENDIR STAMPS_DIR
249
250 BITBAKE_ENV_HASH := $(call hash, \
251         'BITBAKE_ENV_VERSION = "0"' \
252         'BB_ENV_EXTRAWHITE = "$(BB_ENV_EXTRAWHITE)"' \
253         'CURDIR = "$(CURDIR)"' \
254         )
255
256 bitbake.env: $(DEPDIR)/.bitbake.env.$(BITBAKE_ENV_HASH)
257         @echo '[*] Generating $@'
258         @echo '# Automatically generated file. Do not edit!' > $@
259         @echo 'export BB_ENV_EXTRAWHITE="$(BB_ENV_EXTRAWHITE)"' >> $@
260         @echo 'export PATH="$(CURDIR)/openembedded-core/scripts:$(CURDIR)/bitbake/bin:$${PATH}"' >> $@
261
262 OPENDREAMBOX_CONF_HASH := $(call hash, \
263         'OPENDREAMBOX_CONF_VERSION = "2"' \
264         'CURDIR = "$(CURDIR)"' \
265         'BB_NUMBER_THREADS = "$(BB_NUMBER_THREADS)"' \
266         'PARALLEL_MAKE = "$(PARALLEL_MAKE)"' \
267         'DL_DIR = "$(DL_DIR)"' \
268         'PERSISTENT_DIR = "$(PERSISTENT_DIR)"' \
269         'SSTATE_DIR = "$(SSTATE_DIR)"' \
270         'BB_GENERATE_MIRROR_TARBALLS = "$(BB_GENERATE_MIRROR_TARBALLS)"' \
271         'BBINCLUDELOGS = "$(BBINCLUDELOGS)"' \
272         'CONF_VERSION = "$(CONF_VERSION)"' \
273         'DISTRO = "$(DISTRO)"' \
274         'USER_CLASSES = "$(USER_CLASSES)"' \
275         'PATCHRESOLVE = "$(PATCHRESOLVE)"' \
276         'PRSERV_HOST = "$(PRSERV_HOST)"' \
277         )
278
279 conf/opendreambox.conf: $(DEPDIR)/.opendreambox.conf.$(OPENDREAMBOX_CONF_HASH)
280         @echo '[*] Generating $@'
281         @test -d $(@D) || mkdir -p $(@D)
282         @echo '# Automatically generated file. Do not edit!' > $@
283         @echo 'BB_NUMBER_THREADS = "$(BB_NUMBER_THREADS)"' >> $@
284         @echo 'PARALLEL_MAKE = "$(PARALLEL_MAKE)"' >> $@
285         @echo 'DL_DIR = "$(DL_DIR)"' >> $@
286         @echo 'PERSISTENT_DIR = "$(PERSISTENT_DIR)"' >> $@
287         @echo 'SSTATE_DIR = "$(SSTATE_DIR)"' >> $@
288         @echo 'BB_GENERATE_MIRROR_TARBALLS = "0"' >> $@
289         @echo 'BBINCLUDELOGS = "yes"' >> $@
290         @echo 'CONF_VERSION = "1"' >> $@
291         @echo 'DISTRO = "opendreambox"' >> $@
292         @echo 'USER_CLASSES = "buildstats"' >> $@
293         @echo 'PATCHRESOLVE = "noop"' >> $@
294         @echo 'PRSERV_HOST = "localhost:0"' >> $@
295
296 LOCAL_CONF_HASH := $(call hash, \
297         'LOCAL_CONF_VERSION = "0"' \
298         'CURDIR = "$(CURDIR)"' \
299         'TOPDIR = "$(TOPDIR)"' \
300         'MACHINE = "$(MACHINE)"' \
301         'TMPDIR = "$(TMPDIR)"' \
302         'DISTRO_INCLUDE_CONF = "$(DISTRO_INCLUDE_CONF)"' \
303         'MACHINE_INCLUDE_CONF = "$(MACHINE_INCLUDE_CONF)"' \
304         )
305
306 $(TOPDIR)/conf/local.conf: $(DEPDIR)/.local.conf.$(MACHINE).$(LOCAL_CONF_HASH)
307         @echo '[*] Generating $@'
308         @test -d $(@D) || mkdir -p $(@D)
309         @echo '# Automatically generated file. Do not edit!' > $@
310         @echo 'TOPDIR = "$(TOPDIR)"' >> $@
311         @echo 'MACHINE = "$(MACHINE)"' >> $@
312         @echo 'TMPDIR = "$(TMPDIR)"' >> $@
313         @echo 'require $(CURDIR)/conf/opendreambox.conf' >> $@
314         @echo 'include $(DISTRO_INCLUDE_CONF)' >> $@
315         @echo 'include $(MACHINE_INCLUDE_CONF)' >> $@
316
317 BBLAYERS_CONF_HASH := $(call hash, \
318         'BBLAYERS_CONF_VERSION = "0"' \
319         'CURDIR = "$(CURDIR)"' \
320         'LCONF_VERSION = "$(LCONF_VERSION)"' \
321         'BBFILES = "$(BBFILES)"' \
322         'BBLAYERS = "$(BBLAYERS)"' \
323         'DISTRO_INCLUDE_CONF = "$(DISTRO_INCLUDE_CONF)"' \
324         'MACHINE_INCLUDE_CONF = "$(MACHINE_INCLUDE_CONF)"' \
325         )
326
327 $(TOPDIR)/conf/bblayers.conf: $(DEPDIR)/.bblayers.conf.$(MACHINE).$(BBLAYERS_CONF_HASH)
328         @echo '[*] Generating $@'
329         @test -d $(@D) || mkdir -p $(@D)
330         @echo '# Automatically generated file. Do not edit!' > $@
331         @echo 'LCONF_VERSION = "4"' >> $@
332         @echo 'BBFILES = ""' >> $@
333         @echo 'BBLAYERS = "$(BBLAYERS)"' >> $@
334         @echo 'include $(DISTRO_INCLUDE_CONF)' >> $@
335         @echo 'include $(MACHINE_INCLUDE_CONF)' >> $@
336
337 CROSS_COMPILE_ENV_BLACKLIST = \
338         HOME LOGNAME PWD SHELL SSH_AGENT_PID SSH_AUTH_SOCK TERM USER
339
340 CROSS_COMPILE_ENV_HASH := $(call hash, \
341         'CROSS_COMPILE_ENV_VERSION = "0"' \
342         'CURDIR = "$(CURDIR)"' \
343         'PARALLEL_MAKE = "$(PARALLEL_MAKE)"' \
344         'TMPDIR = "$(TMPDIR)"' \
345         'TOPDIR = "$(TOPDIR)"' \
346         'CROSS_COMPILE_ENV_BLACKLIST = "$(CROSS_COMPILE_ENV_BLACKLIST)"' \
347         )
348
349 .cross-compile-$(MACHINE).env: $(DEPDIR)/.cross-compile.env.$(MACHINE).$(CROSS_COMPILE_ENV_HASH) $(CONFFILES_BITBAKE)
350         @test -d $(TOPDIR) || (echo 'The directory "$(TOPDIR)" does not exist. Is "$(MACHINE)" a valid machine? Try running "make MACHINE=$(MACHINE)" first.' && exit 1)
351         @echo '[*] Generating $@'
352         @echo '# Automatically generated file. Do not edit!' > $@
353         @($(BITBAKE) -e | grep '^\(export\s\)\?[a-zA-Z0-9_]\+=".*"$$' | sed -e 's,^export\s,,' | grep -v $(foreach v,$(CROSS_COMPILE_ENV_BLACKLIST),-e ^$(v)=) | sed -e 's,^,local ,' | sort) >> $@ || ($(RM) $@ && exit 1)
354
355 $(CONFDEPS):
356         @test -d $(@D) || mkdir -p $(@D)
357         @$(RM) $(basename $@).*
358         @touch $@