geqo.sgml
上传用户:blenddy
上传日期:2007-01-07
资源大小:6495k
文件大小:12k
源码类别:

数据库系统

开发平台:

Unix_Linux

  1. <!--
  2. $Header: /usr/local/cvsroot/pgsql/doc/src/sgml/geqo.sgml,v 1.8 1999/03/30 15:25:56 thomas Exp $
  3. Genetic Optimizer
  4. $Log: geqo.sgml,v $
  5. Revision 1.8  1999/03/30 15:25:56  thomas
  6. Fix up small markup problems. Force omit-tags to nil so we have tag
  7.  completion as required by the newest DocBook conventions.
  8. Revision 1.7  1999/02/19 01:57:08  thomas
  9. Fix SGML markup from last content changes.
  10. Revision 1.6  1999/02/18 05:26:17  momjian
  11. Enable bushy plans by default.
  12. Revision 1.5  1998/12/29 02:24:15  thomas
  13. Clean up to ensure tag completion as required by the newest versions
  14.  of Norm's Modular Style Sheets and jade/docbook.
  15. From Vince Vielhaber <vev@michvhf.com>.
  16. Revision 1.4  1998/08/15 06:55:05  thomas
  17. Change Id field in chapter tag to change html output file name.
  18. -->
  19. <Chapter Id="geqo">
  20. <DocInfo>
  21. <Author>
  22. <FirstName>Martin</FirstName>
  23. <SurName>Utesch</SurName>
  24. <Affiliation>
  25. <Orgname>
  26. University of Mining and Technology
  27. </Orgname>
  28. <Orgdiv>
  29. Institute of Automatic Control
  30. </Orgdiv>
  31. <Address>
  32. <City>
  33. Freiberg
  34. </City>
  35. <Country>
  36. Germany
  37. </Country>
  38. </Address>
  39. </Affiliation>
  40. </Author>
  41. <Date>1997-10-02</Date>
  42. </DocInfo>
  43. <Title>Genetic Query Optimization in Database Systems</Title>
  44. <Para>
  45. <Note>
  46. <Title>Author</Title>
  47. <Para>
  48. Written by <ULink url="utesch@aut.tu-freiberg.de">Martin Utesch</ULink>
  49. for the Institute of Automatic Control at the University of Mining and Technology in Freiberg, Germany.
  50. </Para>
  51. </Note>
  52. </para>
  53. <Sect1>
  54. <Title>Query Handling as a Complex Optimization Problem</Title>
  55. <Para>
  56.    Among all relational operators the most difficult one to process and
  57. optimize is the <FirstTerm>join</FirstTerm>. The number of alternative plans to answer a query
  58. grows exponentially with the number of <Command>join</Command>s included in it. Further
  59. optimization effort is caused by the support of a variety of <FirstTerm>join methods</FirstTerm>
  60.  (e.g., nested loop, index scan, merge join in <ProductName>Postgres</ProductName>) to
  61. process individual <Command>join</Command>s and a diversity of <FirstTerm>indices</FirstTerm> (e.g., r-tree,
  62. b-tree, hash in <ProductName>Postgres</ProductName>) as access paths for relations.
  63. </para>
  64. <Para>
  65.    The current <ProductName>Postgres</ProductName> optimizer implementation performs a <FirstTerm>near-
  66. exhaustive search</FirstTerm> over the space of alternative strategies. This query
  67. optimization technique is inadequate to support database application
  68. domains that involve the need for extensive queries, such as artificial
  69. intelligence.
  70. </para>
  71. <Para>
  72.    The Institute of Automatic Control at the University of Mining and
  73. Technology, in Freiberg, Germany, encountered the described problems as its
  74. folks wanted to take the <ProductName>Postgres</ProductName> DBMS as the backend for a decision
  75. support knowledge based system for the maintenance of an electrical
  76. power grid. The DBMS needed to handle large <Command>join</Command> queries for the
  77. inference machine of the knowledge based system.
  78. </para>
  79. <Para>
  80.    Performance difficulties within exploring the space of possible query
  81. plans arose the demand for a new optimization technique being developed.
  82. </para>
  83. <Para>
  84.    In the following we propose the implementation of a <FirstTerm>Genetic Algorithm</FirstTerm>
  85.  as an option for the database query optimization problem.
  86. </para>
  87. </sect1>
  88. <Sect1>
  89. <Title>Genetic Algorithms (<Acronym>GA</Acronym>)</Title>
  90. <Para>
  91.    The <Acronym>GA</Acronym> is a heuristic optimization method which operates through 
  92. determined, randomized search. The set of possible solutions for the
  93. optimization problem is considered as a <FirstTerm>population</FirstTerm> of <FirstTerm>individuals</FirstTerm>.
  94. The degree of adaption of an individual to its environment is specified
  95. by its <FirstTerm>fitness</FirstTerm>.
  96. </para>
  97. <Para>
  98.    The coordinates of an individual in the search space are represented
  99. by <FirstTerm>chromosomes</FirstTerm>, in essence a set of character strings. A <FirstTerm>gene</FirstTerm> is a
  100. subsection of a chromosome which encodes the value of a single parameter
  101. being optimized. Typical encodings for a gene could be <FirstTerm>binary</FirstTerm> or
  102. <FirstTerm>integer</FirstTerm>.
  103. </para>
  104. <Para>
  105.    Through simulation of the evolutionary operations <FirstTerm>recombination</FirstTerm>,
  106. <FirstTerm>mutation</FirstTerm>, and <FirstTerm>selection</FirstTerm> new generations of search points are found
  107. that show a higher average fitness than their ancestors.
  108. </para>
  109. <Para>
  110.    According to the "comp.ai.genetic" <Acronym>FAQ</Acronym> it cannot be stressed too
  111. strongly that a <Acronym>GA</Acronym> is not a pure random search for a solution to a
  112. problem. A <Acronym>GA</Acronym> uses stochastic processes, but the result is distinctly
  113. non-random (better than random). 
  114. <ProgramListing>
  115. Structured Diagram of a <Acronym>GA</Acronym>:
  116. ---------------------------
  117. P(t)    generation of ancestors at a time t
  118. P''(t)  generation of descendants at a time t
  119. +=========================================+
  120. |>>>>>>>>>>>  Algorithm GA  <<<<<<<<<<<<<<|
  121. +=========================================+
  122. | INITIALIZE t := 0                       |
  123. +=========================================+
  124. | INITIALIZE P(t)                         |
  125. +=========================================+
  126. | evalute FITNESS of P(t)                 |
  127. +=========================================+
  128. | while not STOPPING CRITERION do         |
  129. |   +-------------------------------------+
  130. |   | P'(t)  := RECOMBINATION{P(t)}       |
  131. |   +-------------------------------------+
  132. |   | P''(t) := MUTATION{P'(t)}           |
  133. |   +-------------------------------------+
  134. |   | P(t+1) := SELECTION{P''(t) + P(t)}  |
  135. |   +-------------------------------------+
  136. |   | evalute FITNESS of P''(t)           |
  137. |   +-------------------------------------+
  138. |   | t := t + 1                          |
  139. +===+=====================================+
  140. </ProgramListing>
  141. </para>
  142. </sect1>
  143. <Sect1>
  144. <Title>Genetic Query Optimization (<Acronym>GEQO</Acronym>) in Postgres</Title>
  145. <Para>
  146.    The <Acronym>GEQO</Acronym> module is intended for the solution of the query
  147. optimization problem similar to a traveling salesman problem (<Acronym>TSP</Acronym>).
  148. Possible query plans are encoded as integer strings. Each string
  149. represents the <Command>join</Command> order from one relation of the query to the next.
  150. E. g., the query tree
  151. <ProgramListing>
  152.        /
  153.       / 2
  154.      / 3
  155.     4  1
  156. </ProgramListing>
  157. is encoded by the integer string '4-1-3-2',
  158. which means, first join relation '4' and '1', then '3', and
  159. then '2', where 1, 2, 3, 4 are relids in <ProductName>Postgres</ProductName>.
  160. </para>
  161. <Para>
  162.    Parts of the <Acronym>GEQO</Acronym> module are adapted from D. Whitley's Genitor
  163. algorithm.
  164. </para>
  165. <Para>
  166.    Specific characteristics of the <Acronym>GEQO</Acronym> implementation in <ProductName>Postgres</ProductName>
  167. are:
  168. <ItemizedList Mark="bullet" Spacing="compact">
  169. <ListItem>
  170. <Para>
  171. Usage of a <FirstTerm>steady state</FirstTerm> <Acronym>GA</Acronym> (replacement of the least fit
  172.    individuals in a population, not whole-generational replacement)
  173.    allows fast convergence towards improved query plans. This is
  174.    essential for query handling with reasonable time;
  175. </Para>
  176. </ListItem>
  177. <ListItem>
  178. <Para>
  179. Usage of <FirstTerm>edge recombination crossover</FirstTerm> which is especially suited
  180.    to keep edge losses low for the solution of the <Acronym>TSP</Acronym> by means of a <Acronym>GA</Acronym>;
  181. </Para>
  182. </ListItem>
  183. <ListItem>
  184. <Para>
  185. Mutation as genetic operator is deprecated so that no repair
  186.    mechanisms are needed to generate legal <Acronym>TSP</Acronym> tours.
  187. </Para>
  188. </ListItem>
  189. </ItemizedList>
  190. </para>
  191. <Para>
  192.    The <Acronym>GEQO</Acronym> module gives the following benefits to the <ProductName>Postgres</ProductName> DBMS
  193. compared to the <ProductName>Postgres</ProductName> query optimizer implementation:
  194. <ItemizedList Mark="bullet" Spacing="compact">
  195. <ListItem>
  196. <Para>
  197. Handling of large <Command>join</Command> queries through non-exhaustive search;
  198. </Para>
  199. </ListItem>
  200. <ListItem>
  201. <Para>
  202. Improved cost size approximation of query plans since no longer
  203.    plan merging is needed (the <Acronym>GEQO</Acronym> module evaluates the cost for a
  204.    query plan as an individual).
  205. </Para>
  206. </ListItem>
  207. </ItemizedList>
  208. </para>
  209. </Sect1>
  210. <Sect1>
  211. <Title>Future Implementation Tasks for <ProductName>Postgres</ProductName> <Acronym>GEQO</Acronym></Title>
  212. <Sect2>
  213. <Title>Basic Improvements</Title>
  214. <Sect3>
  215. <Title>Improve freeing of memory when query is already processed</Title>
  216. <Para>
  217. With large <Command>join</Command> queries the computing time spent for the genetic query
  218. optimization seems to be a mere <Emphasis>fraction</Emphasis> of the time
  219.  <ProductName>Postgres</ProductName>
  220. needs for freeing memory via routine <Function>MemoryContextFree</Function>,
  221. file <FileName>backend/utils/mmgr/mcxt.c</FileName>.
  222. Debugging showed that it get stucked in a loop of routine
  223. <Function>OrderedElemPop</Function>, file <FileName>backend/utils/mmgr/oset.c</FileName>.
  224. The same problems arise with long queries when using the normal
  225. <ProductName>Postgres</ProductName> query optimization algorithm.
  226. </para>
  227. </sect3>
  228. <Sect3>
  229. <Title>Improve genetic algorithm parameter settings</Title>
  230. <Para>
  231. In file <FileName>backend/optimizer/geqo/geqo_params.c</FileName>, routines
  232. <Function>gimme_pool_size</Function> and <Function>gimme_number_generations</Function>,
  233. we have to find a compromise for the parameter settings
  234. to satisfy two competing demands:
  235. <ItemizedList Spacing="compact">
  236. <ListItem>
  237. <Para>
  238. Optimality of the query plan
  239. </Para>
  240. </ListItem>
  241. <ListItem>
  242. <Para>
  243. Computing time
  244. </Para>
  245. </ListItem>
  246. </ItemizedList>
  247. </para>
  248. </sect3>
  249. <Sect3>
  250. <Title>Find better solution for integer overflow</Title>
  251. <Para>
  252. In file <FileName>backend/optimizer/geqo/geqo_eval.c</FileName>, routine
  253. <Function>geqo_joinrel_size</Function>,
  254. the present hack for MAXINT overflow is to set the <ProductName>Postgres</ProductName> integer
  255. value of <StructField>rel->size</StructField> to its logarithm.
  256. Modifications of <StructName>Rel</StructName> in <FileName>backend/nodes/relation.h</FileName> will
  257. surely have severe impacts on the whole <ProductName>Postgres</ProductName> implementation.
  258. </para>
  259. </sect3>
  260. <Sect3>
  261. <Title>Find solution for exhausted memory</Title>
  262. <Para>
  263. Memory exhaustion may occur with more than 10 relations involved in a query.
  264. In file <FileName>backend/optimizer/geqo/geqo_eval.c</FileName>, routine
  265. <Function>gimme_tree</Function> is recursively called.
  266. Maybe I forgot something to be freed correctly, but I dunno what.
  267. Of course the <StructName>rel</StructName> data structure of the <Command>join</Command> keeps growing and
  268. growing the more relations are packed into it.
  269. Suggestions are welcome :-(
  270. </para>
  271. </sect3>
  272. </sect2>
  273. <BIBLIOGRAPHY Id="geqo-biblio">
  274. <TITLE>
  275. References
  276. </TITLE>
  277. <PARA>Reference information for <Acronym>GEQ</Acronym> algorithms.
  278. </PARA>
  279. <BIBLIOENTRY>
  280. <BOOKBIBLIO>
  281. <TITLE>
  282. The Hitch-Hiker's Guide to Evolutionary Computation
  283. </TITLE>
  284. <AUTHORGROUP>
  285. <AUTHOR>
  286. <FIRSTNAME>J&ouml;rg</FIRSTNAME>
  287. <SURNAME>Heitk&ouml;tter</SURNAME>
  288. </AUTHOR>
  289. <AUTHOR>
  290. <FIRSTNAME>David</FIRSTNAME>
  291. <SURNAME>Beasley</SURNAME>
  292. </AUTHOR>
  293. </AUTHORGROUP>
  294. <PUBLISHER>
  295. <PUBLISHERNAME>
  296. InterNet resource
  297. </PUBLISHERNAME>
  298. </PUBLISHER>
  299. <ABSTRACT>
  300. <Para>
  301. FAQ in <ULink url="news://comp.ai.genetic">comp.ai.genetic</ULink>
  302. is available at <ULink url="ftp://ftp.Germany.EU.net/pub/research/softcomp/EC/Welcome.html">Encore</ULink>.
  303. </Para>
  304. </ABSTRACT>
  305. </BOOKBIBLIO>
  306. <BOOKBIBLIO>
  307. <TITLE>
  308. The Design and Implementation of the Postgres Query Optimizer
  309. </TITLE>
  310. <AUTHORGROUP>
  311. <AUTHOR>
  312. <FIRSTNAME>Z.</FIRSTNAME>
  313. <SURNAME>Fong</SURNAME>
  314. </AUTHOR>
  315. </AUTHORGROUP>
  316. <PUBLISHER>
  317. <PUBLISHERNAME>
  318. University of California, Berkeley Computer Science Department
  319. </PUBLISHERNAME>
  320. </PUBLISHER>
  321. <ABSTRACT>
  322. <Para>
  323. File <FileName>planner/Report.ps</FileName> in the 'postgres-papers' distribution.
  324. </Para>
  325. </ABSTRACT>
  326. </BOOKBIBLIO>
  327. <BOOKBIBLIO>
  328. <TITLE>
  329. Fundamentals of Database Systems
  330. </TITLE>
  331. <AUTHORGROUP>
  332. <AUTHOR>
  333. <FIRSTNAME>R.</FIRSTNAME>
  334. <SURNAME>Elmasri</SURNAME>
  335. </AUTHOR>
  336. <AUTHOR>
  337. <FIRSTNAME>S.</FIRSTNAME>
  338. <SURNAME>Navathe</SURNAME>
  339. </AUTHOR>
  340. </AUTHORGROUP>
  341. <PUBLISHER>
  342. <PUBLISHERNAME>
  343. The Benjamin/Cummings Pub., Inc.
  344. </PUBLISHERNAME>
  345. </PUBLISHER>
  346. </BOOKBIBLIO>
  347. </BIBLIOENTRY>
  348. </BIBLIOGRAPHY>
  349. </sect1>
  350. </Chapter>
  351. <!-- Keep this comment at the end of the file
  352. Local variables:
  353. mode: sgml
  354. sgml-omittag:nil
  355. sgml-shorttag:t
  356. sgml-minimize-attributes:nil
  357. sgml-always-quote-attributes:t
  358. sgml-indent-step:1
  359. sgml-indent-data:t
  360. sgml-parent-document:nil
  361. sgml-default-dtd-file:"./reference.ced"
  362. sgml-exposed-tags:nil
  363. sgml-local-catalogs:"/usr/lib/sgml/catalog"
  364. sgml-local-ecat-files:nil
  365. End:
  366. -->