bitbake/manual/usermanual.xml:
[bitbake.git] / doc / manual / usermanual.xml
1 <?xml version="1.0"?>
2 <!--
3   ex:ts=4:sw=4:sts=4:et
4   -*- tab-width: 4; c-basic-offset: 4; indent-tabs-mode: nil -*-
5 -->
6 <!DOCTYPE book PUBLIC "-//OASIS//DTD DocBook XML V4.2//EN"
7                       "http://www.oasis-open.org/docbook/xml/4.2/docbookx.dtd">
8 <book>
9     <bookinfo>
10         <title>BitBake User Manual</title>
11         <authorgroup>
12             <corpauthor>BitBake Team</corpauthor>
13         </authorgroup>
14         <copyright>
15             <year>2004</year>
16             <holder>Chris Larson</holder>
17             <holder>Phil Blundell</holder>
18         </copyright>
19         <legalnotice>
20             <para>This work is licensed under the Creative Commons Attribution License. To view a copy of this license, visit <ulink url="http://creativecommons.org/licenses/by/2.0/">http://creativecommons.org/licenses/by/2.0/</ulink> or send a letter to Creative Commons, 559 Nathan Abbott Way, Stanford, California 94305, USA.</para>
21         </legalnotice>
22     </bookinfo>
23     <chapter>
24         <title>Introduction</title>
25         <section>
26             <title>Overview</title>
27             <para>BitBake is, at its simplest, a tool for executing
28 tasks and managing metadata.  As such, its similarities to GNU make and other
29 build tools are readily apparent.  It was inspired by Portage, the package management system used by the Gentoo Linux distribution.  BitBake is the basis of the <ulink url="http://www.openembedded.org/">OpenEmbedded</ulink> project, which is being used to build and maintain a number of embedded Linux distributions, including OpenZaurus and Familiar.</para>
30         </section>
31         <section>
32             <title>Background and Goals</title>
33             <para>Prior to BitBake, no other build tool adequately met
34 the needs of an aspiring embedded Linux distribution.  All of the
35 buildsystems used by traditional desktop Linux distributions lacked
36 important functionality, and none of the ad-hoc
37 <emphasis>buildroot</emphasis> systems, prevalent in the
38 embedded space, were scalable or maintainable.</para>
39
40       <para>Some important goals for BitBake were:
41             <itemizedlist>
42                 <listitem><para>Handle crosscompilation.</para></listitem>
43                 <listitem><para>Handle interpackage dependencies (build time on target architecture, build time on native architecture, and runtime).</para></listitem>
44                 <listitem><para>Support running any number of tasks within a given package, including, but not limited to, fetching upstream sources, unpacking them, patching them, configuring them, et cetera.</para></listitem>
45                 <listitem><para>Must be linux distribution agnostic (both build and target).</para></listitem>
46                 <listitem><para>Must be architecture agnostic</para></listitem>
47                 <listitem><para>Must support multiple build and target operating systems (including cygwin, the BSDs, etc).</para></listitem>
48                 <listitem><para>Must be able to be self contained, rather than tightly integrated into the build machine's root filesystem.</para></listitem>
49                 <listitem><para>There must be a way to handle conditional metadata (on target architecture, operating system, distribution, machine).</para></listitem>
50                 <listitem><para>It must be easy for the person using the tools to supply their own local metadata and packages to operate against.</para></listitem>
51                 <listitem><para>Must make it easy to collaborate
52 between multiple projects using BitBake for their
53 builds.</para></listitem>
54                 <listitem><para>Should provide an inheritance mechanism to
55 share common metadata between many packages.</para></listitem>
56                 <listitem><para>Et cetera...</para></listitem>
57             </itemizedlist>
58         </para>
59         <para>BitBake satisfies all these and many more.  Flexibility and power have always been the priorities.  It is highly extensible, supporting embedded Python code and execution of any arbitrary tasks.</para>
60         </section>
61     </chapter>
62     <chapter>
63         <title>Metadata</title>
64         <section>
65             <title>Description</title>
66             <itemizedlist>
67                 <para>BitBake metadata can be classified into 3 major areas:</para>
68                 <listitem>
69                     <para>Configuration Files</para>
70                 </listitem>
71                 <listitem>
72                     <para>.bb Files</para>
73                 </listitem>
74                 <listitem>
75                     <para>Classes</para>
76                 </listitem>
77             </itemizedlist>
78             <para>What follows are a large number of examples of BitBake metadata.  Any syntax which isn't supported in any of the aforementioned areas will be documented as such.</para>
79             <section>
80                 <title>Basic variable setting</title>
81                 <para><screen><varname>VARIABLE</varname> = "value"</screen></para>
82                 <para>In this example, <varname>VARIABLE</varname> is <literal>value</literal>.</para>
83             </section>
84             <section>
85                 <title>Variable expansion</title>
86                 <para>BitBake supports variables referencing one another's contents using a syntax which is similar to shell scripting</para>
87                 <para><screen><varname>A</varname> = "aval"
88 <varname>B</varname> = "pre${A}post"</screen></para>
89                 <para>This results in <varname>A</varname> containing <literal>aval</literal> and <varname>B</varname> containing <literal>preavalpost</literal>.</para>
90             </section>
91             <section>
92                 <title>Immediate variable expansion (:=)</title>
93                 <para>:= results in a variable's contents being expanded immediately, rather than when the variable is actually used.</para>
94                 <para><screen><varname>T</varname> = "123"
95 <varname>A</varname> := "${B} ${A} test ${T}"
96 <varname>T</varname> = "456"
97 <varname>B</varname> = "${T} bval"
98
99 <varname>C</varname> = "cval"
100 <varname>C</varname> := "${C}append"</screen></para>
101                 <para>In that example, <varname>A</varname> would contain <literal> test 123</literal>, <varname>B</varname> would contain <literal>456 bval</literal>, and <varname>C</varname> would be <literal>cvalappend</literal>.</para>
102             </section>
103             <section>
104                 <title>Appending (+=) and prepending (=+)</title>
105                 <para><screen><varname>B</varname> = "bval"
106 <varname>B</varname> += "additionaldata"
107 <varname>C</varname> = "cval"
108 <varname>C</varname> =+ "test"</screen></para>
109                 <para>In this example, <varname>B</varname> is now <literal>bval additionaldata</literal> and <varname>C</varname> is <literal>test cval</literal>.</para>
110             </section>
111             <section>
112                 <title>Appending (.=) and prepending (=.) without spaces</title>
113                     <para><screen><varname>B</varname> = "bval"
114 <varname>B</varname> += "additionaldata"
115 <varname>C</varname> = "cval"
116 <varname>C</varname> =+ "test"</screen></para>
117                 <para>In this example, <varname>B</varname> is now <literal>bvaladditionaldata</literal> and <varname>C</varname> is <literal>testcval</literal>. In contrast to the above Appending and Prepending operators no additional space
118 will be introduced.</para>
119             </section>
120             <section>
121                 <title>Conditional metadata set</title>
122                 <para>OVERRIDES is a <quote>:</quote> seperated variable containing each item you want to satisfy conditions.  So, if you have a variable which is conditional on <quote>arm</quote>, and <quote>arm</quote> is in OVERRIDES, then the <quote>arm</quote> specific version of the variable is used rather than the non-conditional version.  Example:</para>
123                 <para><screen><varname>OVERRIDES</varname> = "architecture:os:machine"
124 <varname>TEST</varname> = "defaultvalue"
125 <varname>TEST_os</varname> = "osspecificvalue"
126 <varname>TEST_condnotinoverrides</varname> = "othercondvalue"</screen></para>
127                 <para>In this example, <varname>TEST</varname> would be <literal>osspecificvalue</literal>, due to the condition <quote>os</quote> being in <varname>OVERRIDES</varname>.</para>
128             </section>
129             <section>
130                 <title>Conditional appending</title>
131                 <para>BitBake also supports appending and prepending to variables based on whether something is in OVERRIDES.  Example:</para>
132                 <para><screen><varname>DEPENDS</varname> = "glibc ncurses"
133 <varname>OVERRIDES</varname> = "machine:local"
134 <varname>DEPENDS_append_machine</varname> = " libmad"</screen></para>
135                 <para>In this example, <varname>DEPENDS</varname> is set to <literal>glibc ncurses libmad</literal>.</para>
136             </section>
137             <section>
138                 <title>Inclusion</title>
139                 <para>Next, there is the <literal>include</literal> directive, which causes BitBake to parse in whatever file you specify, and insert it at that location, which is not unlike <command>make</command>.  However, if the path specified on the <literal>include</literal> line is a relative path, BitBake will locate the first one it can find within <envar>BBPATH</envar>.</para>
140             </section>
141             <section>
142                 <title>Python variable expansion</title>
143                 <para><screen><varname>DATE</varname> = "${@time.strftime('%Y%m%d',time.gmtime())}"</screen></para>
144                 <para>This would result in the <varname>DATE</varname> variable containing today's date.</para>
145             </section>
146             <section>
147                 <title>Defining executable metadata</title>
148                 <para><emphasis>NOTE:</emphasis> This is only supported in .bb and .bbclass files.</para>
149                 <para><screen>do_mytask () {
150     echo "Hello, world!"
151 }</screen></para>
152                 <para>This is essentially identical to setting a variable, except that this variable happens to be executable shell code.</para>
153                 <para><screen>python do_printdate () {
154     import time
155     print time.strftime('%Y%m%d', time.gmtime())
156 }</screen></para>
157                 <para>This is the similar to the previous, but flags it as python so that BitBake knows it is python code.</para>
158             </section>
159             <section>
160                 <title>Defining python functions into the global python namespace</title>
161                 <para><emphasis>NOTE:</emphasis> This is only supported in .bb and .bbclass files.</para>
162                 <para><screen>def get_depends(bb, d):
163     if bb.data.getVar('SOMECONDITION', d, 1):
164         return "dependencywithcond"
165     else:
166         return "dependency"
167
168 <varname>SOMECONDITION</varname> = "1"
169 <varname>DEPENDS</varname> = "${@get_depends(bb, d)}"</screen></para>
170                 <para>This would result in <varname>DEPENDS</varname> containing <literal>dependencywithcond</literal>.</para>
171             </section>
172             <section>
173                 <title>Inheritance</title>
174                 <para><emphasis>NOTE:</emphasis> This is only supported in .bb and .bbclass files.</para>
175                 <para>The <literal>inherit</literal> directive is a means of specifying what classes of functionality your .bb requires.  It is a rudamentary form of inheritence.  For example, you can easily abstract out the tasks involved in building a package that uses autoconf and automake, and put that into a bbclass for your packages to make use of.  A given bbclass is located by searching for classes/filename.oeclass in <envar>BBPATH</envar>, where filename is what you inherited.</para>
176             </section>
177             <section>
178                 <title>Tasks</title>
179                 <para><emphasis>NOTE:</emphasis> This is only supported in .bb and .bbclass files.</para>
180                 <para>In BitBake, each step that needs to be run for a given .bb is known as a task.  There is a command <literal>addtask</literal> to add new tasks (must be a defined python executable metadata and must start with <quote>do_</quote>) and describe intertask dependencies.</para>
181                 <para><screen>python do_printdate () {
182     import time
183     print time.strftime('%Y%m%d', time.gmtime())
184 }
185
186 addtask printdate before do_build</screen></para>
187                 <para>This defines the necessary python function and adds it as a task which is now a dependency of do_build (the default task).  If anyone executes the do_build task, that will result in do_printdate being run first.</para>
188             </section>
189             <section>
190                 <title>Events</title>
191                 <para><emphasis>NOTE:</emphasis> This is only supported in .bb and .bbclass files.</para>
192                 <para>BitBake also implements a means of registering event handlers.  Events are triggered at certain points during operation, such as, the beginning of operation against a given .bb, the start of a given task, task failure, task success, et cetera.  The intent was to make it easy to do things like email notifications on build failure.</para>
193                 <para><emphasis>[Insert instructions on how to add event handlers here]</emphasis></para>
194             </section>
195         </section>
196         <section>
197             <title>Parsing</title>
198             <section>
199                 <title>Configuration Files</title>
200                 <para>The first of the classifications of metadata in BitBake is configuration metadata.  This metadata is global, and therefore affects <emphasis>all</emphasis> packages and tasks which are executed.  Currently, BitBake has hardcoded knowledge of a single configuration file.  It expects to find 'conf/bitbake.conf' somewhere in the user specified <envar>BBPATH</envar>.  That configuration file generally has include directives to pull in any other metadata (generally files specific to architecture, machine, <emphasis>local</emphasis> and so on.</para>
201                 <para>Only variable definitions and include directives are allowed in .conf files.</para>
202             </section>
203             <section>
204                 <title>Classes</title>
205                 <para>BitBake classes are our rudamentary inheritence mechanism.  As briefly mentioned in the metadata introduction, they're parsed when an <literal>inherit</literal> directive is encountered, and they are located in classes/ relative to the dirs in <envar>BBPATH</envar>.</para>
206             </section>
207             <section>
208                 <title>.bb Files</title>
209                 <para>A BitBake (.bb) file is a logical unit of tasks to be executed.  Normally this is a package to be built.  Inter-.bb dependencies are obeyed.  The files themselves are located via the <varname>BBFILES</varname> variable, which is set to a space seperated list of .bb files, and does handle wildcards.</para>
210             </section>
211         </section>
212     </chapter>
213     <chapter>
214         <title>Commands</title>
215         <section>
216             <title>bbread</title>
217             <para>bbread is a command for displaying BitBake metadata.  When run with no arguments, it has the core parse 'conf/bitbake.conf', as located in BBPATH, and displays that.  If you supply a file on the commandline, such as a .bb, then it parses that afterwards, using the aforementioned configuration metadata.</para>
218         </section>
219         <section>
220             <title>bitbake</title>
221             <section>
222                 <title>Introduction</title>
223                 <para>bitbake is the primary command in the system.  It facilitates executing tasks in a single .bb file, or executing a given task on a set of multiple .bb files, accounting for interdependencies amongst them.</para>
224             </section>
225             <section>
226                 <title>Usage and Syntax</title>
227                 <para>
228                     <screen><prompt>$ </prompt>bitbake --help
229 usage: bitbake [options] [package ...]
230
231 Executes the specified task (default is 'build') for a given set of BitBake files.
232 It expects that BBFILES is defined, which is a space seperated list of files to
233 be executed.  BBFILES does support wildcards.
234 Default BBFILES are the .bb files in the current directory.
235
236 options:
237   --version             show program's version number and exit
238   -h, --help            show this help message and exit
239   -bBUILDFILE, --buildfile=BUILDFILE
240                         execute the task against this .bb file, rather than a
241                         package from BBFILES.
242   -k, --continue        continue as much as possible after an error. While the
243                         target that failed, and those that depend on it, cannot
244                         be remade, the other dependencies of these targets can
245                         be processed all the same.
246   -f, --force           force run of specified cmd, regardless of stamp status
247   -cCMD, --cmd=CMD      Specify task to execute
248   -rFILE, --read=FILE   read the specified file before bitbake.conf
249   -v, --verbose         output more chit-chat to the terminal
250   -D, --debug           Increase the debug level
251   -n, --dry-run         don't execute, just go through the motions
252   -p, --parse-only      quit after parsing the BB files (developers only)
253   -d, --disable-psyco   disable using the psyco just-in-time compiler (not
254                         recommended)
255   -s, --show-versions   show current and preferred versions of all packages</screen>
256                 </para>
257                 <para>
258                 <example>
259                     <title>Executing a task against a single .bb</title>
260                     <para>Executing tasks for a single file is relatively simple.  You specify the file in question, and bitbake parses it and executes the specified task (or <quote>build</quote> by default).  It obeys intertask dependencies when doing so.</para>
261                     <para><quote>clean</quote> task:</para>
262                     <para><screen><prompt>$ </prompt>bitbake -b blah_1.0.bb -c clean</screen></para>
263                     <para><quote>build</quote> task:</para>
264                     <para><screen><prompt>$ </prompt>bitbake -b blah_1.0.bb</screen></para>
265                 </example>
266                 </para>
267                 <para>
268                 <example>
269                     <title>Executing tasks against a set of .bb files</title>
270                     <para>There are a number of additional complexities introduced when one wants to manage multiple .bb files.  Clearly there needs to be a way to tell bitbake what files are available, and of those, which we want to execute at this time.  There also needs to be a way for each .bb to express its dependencies, both for build time and runtime.  There must be a way for the user to express their preferences when multiple .bb's provide the same functionality, or when there are multiple versions of a .bb.</para>
271                     <para>The next section, Metadata, outlines how one goes about specifying such things.</para>
272                     <para>Note that the bitbake command, when not using --buildfile, accepts a <varname>PROVIDER</varname>, not a filename or anything else.  By default, a .bb generally PROVIDES its packagename, packagename-version, and packagename-version-revision.</para>
273                     <screen><prompt>$ </prompt>bitbake blah</screen>
274                     <screen><prompt>$ </prompt>bitbake blah-1.0</screen>
275                     <screen><prompt>$ </prompt>bitbake blah-1.0-r0</screen>
276                     <screen><prompt>$ </prompt>bitbake -c clean blah</screen>
277                     <screen><prompt>$ </prompt>bitbake virtual/whatever</screen>
278                     <screen><prompt>$ </prompt>bitbake -c clean virtual/whatever</screen>
279                 </example>
280                 </para>
281             </section>
282             <section>
283                 <title>Metadata</title>
284                 <para>As you may have seen in the usage information, or in the information about .bb files, the BBFILES variable is how the bitbake tool locates its files.  This variable is a space seperated list of files that are available, and supports wildcards.
285                 <example>
286                     <title>Setting BBFILES</title>
287                     <programlisting><varname>BBFILES</varname> = "/path/to/bbfiles/*.bb"</programlisting>
288                 </example></para>
289                 <para>With regard to dependencies, it expects the .bb to define a <varname>DEPENDS</varname> variable, which contains a space seperated list of <quote>package names</quote>, which themselves are the <varname>PN</varname> variable.  The <varname>PN</varname> variable is, in general, by default, set to a component of the .bb filename.</para>
290                 <example>
291                     <title>Depending on another .bb</title>
292                     <para>a.bb:
293     <screen>PN = "package-a"
294     DEPENDS += "package-b"</screen>
295                     </para>
296                     <para>b.bb:
297     <screen>PN = "package-b"</screen>
298                     </para>
299                 </example>
300                 <example>
301                     <title>Using PROVIDES</title>
302                     <para>This example shows the usage of the PROVIDES variable, which allows a given .bb to specify what functionality it provides.</para>
303                     <para>package1.bb:
304     <screen>PROVIDES += "virtual/package"</screen>
305                     </para>
306                     <para>package2.bb:
307     <screen>DEPENDS += "virtual/package"</screen>
308                     </para>
309                     <para>package3.bb:
310     <screen>PROVIDES += "virtual/package"</screen>
311                     </para>
312                     <para>As you can see, here there are two different .bb's that provide the same functionality (virtual/package).  Clearly, there needs to be a way for the person running bitbake to control which of those providers gets used.  There is, indeed, such a way.</para>
313                     <para>The following would go into a .conf file, to select package1:
314     <screen>PREFERRED_PROVIDER_virtual/package = "package1"</screen>
315                     </para>
316                 </example>
317                 <example>
318                     <title>Specifying version preference</title>
319                     <para>When there are multiple <quote>versions</quote> of a given package, bitbake defaults to selecting the most recent version, unless otherwise specified.  If the .bb in question has a <varname>DEFAULT_PREFERENCE</varname> set lower than the other .bb's (default is 0), then it will not be selected.  This allows the person or persons maintaining the repository of .bb files to specify their preferences for the default selected version.  In addition, the user can specify their preferences with regard to version.</para>
320                     <para>If the first .bb is named <filename>a_1.1.bb</filename>, then the <varname>PN</varname> variable will be set to <quote>a</quote>, and the <varname>PV</varname> variable will be set to 1.1.</para>
321                     <para>If we then have an <filename>a_1.2.bb</filename>, bitbake will choose 1.2 by default.  However, if we define the following variable in a .conf that bitbake parses, we can change that.
322     <screen>PREFERRED_VERSION_a = "1.1"</screen>
323                     </para>
324                 </example>
325                 <example>
326                     <title>Using <quote>bbfile collections</quote></title>
327                     <para>bbfile collections exist to allow the user to have multiple repositories of bbfiles that contain the same exact package.  For example, one could easily use them to make one's own local copy of an upstream repository, but with custom modifications that one does not want upstream.  Usage:</para>
328                     <screen>BBFILES = "/stuff/openembedded/*/*.bb /stuff/openembedded.modified/*/*.bb"
329 BBFILE_COLLECTIONS = "upstream local"
330 BBFILE_PATTERN_upstream = "^/stuff/openembedded/"
331 BBFILE_PATTERN_local = "^/stuff/openembedded.modified/"
332 BBFILE_PRIORITY_upstream = "5"
333 BBFILE_PRIORITY_local = "10"</screen>
334                 </example>
335             </section>
336         </section>
337     </chapter>
338 </book>