sort.c
上传用户:romrleung
上传日期:2022-05-23
资源大小:18897k
文件大小:30k
源码类别:

MySQL数据库

开发平台:

Visual C++

  1. /* Copyright (C) 2000 MySQL AB & MySQL Finland AB & TCX DataKonsult AB
  2.    This program is free software; you can redistribute it and/or modify
  3.    it under the terms of the GNU General Public License as published by
  4.    the Free Software Foundation; either version 2 of the License, or
  5.    (at your option) any later version.
  6.    This program is distributed in the hope that it will be useful,
  7.    but WITHOUT ANY WARRANTY; without even the implied warranty of
  8.    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  9.    GNU General Public License for more details.
  10.    You should have received a copy of the GNU General Public License
  11.    along with this program; if not, write to the Free Software
  12.    Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA */
  13. /*
  14.   Creates a index for a database by reading keys, sorting them and outputing
  15.   them in sorted order through SORT_INFO functions.
  16. */
  17. #include "fulltext.h"
  18. #if defined(MSDOS) || defined(__WIN__)
  19. #include <fcntl.h>
  20. #else
  21. #include <stddef.h>
  22. #endif
  23. #include <queues.h>
  24. /* static variables */
  25. #undef MIN_SORT_MEMORY
  26. #undef MYF_RW
  27. #undef DISK_BUFFER_SIZE
  28. #define MERGEBUFF 15
  29. #define MERGEBUFF2 31
  30. #define MIN_SORT_MEMORY (4096-MALLOC_OVERHEAD)
  31. #define MYF_RW  MYF(MY_NABP | MY_WME | MY_WAIT_IF_FULL)
  32. #define DISK_BUFFER_SIZE (IO_SIZE*16)
  33. /*
  34.  Pointers of functions for store and read keys from temp file
  35. */
  36. extern void print_error _VARARGS((const char *fmt,...));
  37. /* Functions defined in this file */
  38. static ha_rows NEAR_F find_all_keys(MI_SORT_PARAM *info,uint keys,
  39.                                     uchar **sort_keys,
  40.                                     DYNAMIC_ARRAY *buffpek,int *maxbuffer,
  41.                                     IO_CACHE *tempfile,
  42.                                     IO_CACHE *tempfile_for_exceptions);
  43. static int NEAR_F write_keys(MI_SORT_PARAM *info,uchar **sort_keys,
  44.                              uint count, BUFFPEK *buffpek,IO_CACHE *tempfile);
  45. static int NEAR_F write_key(MI_SORT_PARAM *info, uchar *key,
  46.     IO_CACHE *tempfile);
  47. static int NEAR_F write_index(MI_SORT_PARAM *info,uchar * *sort_keys,
  48.                               uint count);
  49. static int NEAR_F merge_many_buff(MI_SORT_PARAM *info,uint keys,
  50.                                   uchar * *sort_keys,
  51.                                   BUFFPEK *buffpek,int *maxbuffer,
  52.                                   IO_CACHE *t_file);
  53. static uint NEAR_F read_to_buffer(IO_CACHE *fromfile,BUFFPEK *buffpek,
  54.                                   uint sort_length);
  55. static int NEAR_F merge_buffers(MI_SORT_PARAM *info,uint keys,
  56.                                 IO_CACHE *from_file, IO_CACHE *to_file,
  57.                                 uchar * *sort_keys, BUFFPEK *lastbuff,
  58.                                 BUFFPEK *Fb, BUFFPEK *Tb);
  59. static int NEAR_F merge_index(MI_SORT_PARAM *,uint,uchar **,BUFFPEK *, int,
  60.                               IO_CACHE *);
  61. static int flush_ft_buf(MI_SORT_PARAM *info);
  62. static int NEAR_F write_keys_varlen(MI_SORT_PARAM *info,uchar **sort_keys,
  63.                                     uint count, BUFFPEK *buffpek,
  64.                                     IO_CACHE *tempfile);
  65. static uint NEAR_F read_to_buffer_varlen(IO_CACHE *fromfile,BUFFPEK *buffpek,
  66.                                          uint sort_length);
  67. static int NEAR_F write_merge_key(MI_SORT_PARAM *info, IO_CACHE *to_file,
  68.                                   char *key, uint sort_length, uint count);
  69. static int NEAR_F write_merge_key_varlen(MI_SORT_PARAM *info,
  70.  IO_CACHE *to_file,
  71.  char* key, uint sort_length,
  72.  uint count);
  73. static inline int
  74. my_var_write(MI_SORT_PARAM *info, IO_CACHE *to_file, byte *bufs);
  75. /*
  76.   Creates a index of sorted keys
  77.   SYNOPSIS
  78.     _create_index_by_sort()
  79.     info Sort parameters
  80.     no_messages Set to 1 if no output
  81.     sortbuff_size Size if sortbuffer to allocate
  82.   RESULT
  83.     0 ok
  84.    <> 0 Error
  85. */
  86. int _create_index_by_sort(MI_SORT_PARAM *info,my_bool no_messages,
  87.   ulong sortbuff_size)
  88. {
  89.   int error,maxbuffer,skr;
  90.   uint memavl,old_memavl,keys,sort_length;
  91.   DYNAMIC_ARRAY buffpek;
  92.   ha_rows records;
  93.   uchar **sort_keys;
  94.   IO_CACHE tempfile, tempfile_for_exceptions;
  95.   DBUG_ENTER("_create_index_by_sort");
  96.   DBUG_PRINT("enter",("sort_length: %d", info->key_length));
  97.   if (info->keyinfo->flag & HA_VAR_LENGTH_KEY)
  98.   {
  99.     info->write_keys=write_keys_varlen;
  100.     info->read_to_buffer=read_to_buffer_varlen;
  101.     info->write_key=write_merge_key_varlen;
  102.   }
  103.   else
  104.   {
  105.     info->write_keys=write_keys;
  106.     info->read_to_buffer=read_to_buffer;
  107.     info->write_key=write_merge_key;
  108.   }
  109.   my_b_clear(&tempfile);
  110.   my_b_clear(&tempfile_for_exceptions);
  111.   bzero((char*) &buffpek,sizeof(buffpek));
  112.   sort_keys= (uchar **) NULL; error= 1;
  113.   maxbuffer=1;
  114.   memavl=max(sortbuff_size,MIN_SORT_MEMORY);
  115.   records= info->sort_info->max_records;
  116.   sort_length= info->key_length;
  117.   LINT_INIT(keys);
  118.   while (memavl >= MIN_SORT_MEMORY)
  119.   {
  120.     if ((my_off_t) (records+1)*(sort_length+sizeof(char*)) <=
  121. (my_off_t) memavl)
  122.       keys= records+1;
  123.     else
  124.       do
  125.       {
  126. skr=maxbuffer;
  127. if (memavl < sizeof(BUFFPEK)*(uint) maxbuffer ||
  128.     (keys=(memavl-sizeof(BUFFPEK)*(uint) maxbuffer)/
  129.      (sort_length+sizeof(char*))) <= 1)
  130. {
  131.   mi_check_print_error(info->sort_info->param,
  132.        "sort_buffer_size is to small");
  133.   goto err;
  134. }
  135.       }
  136.       while ((maxbuffer= (int) (records/(keys-1)+1)) != skr);
  137.     if ((sort_keys=(uchar **)my_malloc(keys*(sort_length+sizeof(char*))+
  138.        HA_FT_MAXBYTELEN, MYF(0))))
  139.     {
  140.       if (my_init_dynamic_array(&buffpek, sizeof(BUFFPEK), maxbuffer,
  141.      maxbuffer/2))
  142.       {
  143. my_free((gptr) sort_keys,MYF(0));
  144.         sort_keys= 0;
  145.       }
  146.       else
  147. break;
  148.     }
  149.     old_memavl=memavl;
  150.     if ((memavl=memavl/4*3) < MIN_SORT_MEMORY && old_memavl > MIN_SORT_MEMORY)
  151.       memavl=MIN_SORT_MEMORY;
  152.   }
  153.   if (memavl < MIN_SORT_MEMORY)
  154.   {
  155.     mi_check_print_error(info->sort_info->param,"Sort buffer to small"); /* purecov: tested */
  156.     goto err; /* purecov: tested */
  157.   }
  158.   (*info->lock_in_memory)(info->sort_info->param);/* Everything is allocated */
  159.   if (!no_messages)
  160.     printf("  - Searching for keys, allocating buffer for %d keysn",keys);
  161.   if ((records=find_all_keys(info,keys,sort_keys,&buffpek,&maxbuffer,
  162.                                   &tempfile,&tempfile_for_exceptions))
  163.       == HA_POS_ERROR)
  164.     goto err; /* purecov: tested */
  165.   if (maxbuffer == 0)
  166.   {
  167.     if (!no_messages)
  168.       printf("  - Dumping %lu keysn", (ulong) records);
  169.     if (write_index(info,sort_keys, (uint) records))
  170.       goto err; /* purecov: inspected */
  171.   }
  172.   else
  173.   {
  174.     keys=(keys*(sort_length+sizeof(char*)))/sort_length;
  175.     if (maxbuffer >= MERGEBUFF2)
  176.     {
  177.       if (!no_messages)
  178. printf("  - Merging %lu keysn", (ulong) records); /* purecov: tested */
  179.       if (merge_many_buff(info,keys,sort_keys,
  180.                   dynamic_element(&buffpek,0,BUFFPEK *),&maxbuffer,&tempfile))
  181. goto err; /* purecov: inspected */
  182.     }
  183.     if (flush_io_cache(&tempfile) ||
  184. reinit_io_cache(&tempfile,READ_CACHE,0L,0,0))
  185.       goto err; /* purecov: inspected */
  186.     if (!no_messages)
  187.       printf("  - Last merge and dumping keysn"); /* purecov: tested */
  188.     if (merge_index(info,keys,sort_keys,dynamic_element(&buffpek,0,BUFFPEK *),
  189.                     maxbuffer,&tempfile))
  190.       goto err; /* purecov: inspected */
  191.   }
  192.   if (flush_ft_buf(info) || flush_pending_blocks(info))
  193.     goto err;
  194.   if (my_b_inited(&tempfile_for_exceptions))
  195.   {
  196.     MI_INFO *index=info->sort_info->info;
  197.     uint     keyno=info->key;
  198.     uint     key_length, ref_length=index->s->rec_reflength;
  199.     if (!no_messages)
  200.       printf("  - Adding exceptionsn"); /* purecov: tested */
  201.     if (flush_io_cache(&tempfile_for_exceptions) ||
  202. reinit_io_cache(&tempfile_for_exceptions,READ_CACHE,0L,0,0))
  203.       goto err;
  204.     while (!my_b_read(&tempfile_for_exceptions,(byte*)&key_length,
  205.       sizeof(key_length))
  206.         && !my_b_read(&tempfile_for_exceptions,(byte*)sort_keys,
  207.       (uint) key_length))
  208.     {
  209. if (_mi_ck_write(index,keyno,(uchar*) sort_keys,key_length-ref_length))
  210.   goto err;
  211.     }
  212.   }
  213.   error =0;
  214. err:
  215.   if (sort_keys)
  216.     my_free((gptr) sort_keys,MYF(0));
  217.   delete_dynamic(&buffpek);
  218.   close_cached_file(&tempfile);
  219.   close_cached_file(&tempfile_for_exceptions);
  220.   DBUG_RETURN(error ? -1 : 0);
  221. } /* _create_index_by_sort */
  222. /* Search after all keys and place them in a temp. file */
  223. static ha_rows NEAR_F find_all_keys(MI_SORT_PARAM *info, uint keys,
  224.     uchar **sort_keys, DYNAMIC_ARRAY *buffpek,
  225.     int *maxbuffer, IO_CACHE *tempfile,
  226.     IO_CACHE *tempfile_for_exceptions)
  227. {
  228.   int error;
  229.   uint idx;
  230.   DBUG_ENTER("find_all_keys");
  231.   idx=error=0;
  232.   sort_keys[0]=(uchar*) (sort_keys+keys);
  233.   while (!(error=(*info->key_read)(info,sort_keys[idx])))
  234.   {
  235.     if (info->real_key_length > info->key_length)
  236.     {
  237.       if (write_key(info,sort_keys[idx],tempfile_for_exceptions))
  238.         DBUG_RETURN(HA_POS_ERROR); /* purecov: inspected */
  239.       continue;
  240.     }
  241.     if (++idx == keys)
  242.     {
  243.       if (info->write_keys(info,sort_keys,idx-1,(BUFFPEK *)alloc_dynamic(buffpek),
  244.      tempfile))
  245.       DBUG_RETURN(HA_POS_ERROR); /* purecov: inspected */
  246.       sort_keys[0]=(uchar*) (sort_keys+keys);
  247.       memcpy(sort_keys[0],sort_keys[idx-1],(size_t) info->key_length);
  248.       idx=1;
  249.     }
  250.     sort_keys[idx]=sort_keys[idx-1]+info->key_length;
  251.   }
  252.   if (error > 0)
  253.     DBUG_RETURN(HA_POS_ERROR); /* Aborted by get_key */ /* purecov: inspected */
  254.   if (buffpek->elements)
  255.   {
  256.     if (info->write_keys(info,sort_keys,idx,(BUFFPEK *)alloc_dynamic(buffpek),
  257.    tempfile))
  258.       DBUG_RETURN(HA_POS_ERROR); /* purecov: inspected */
  259.     *maxbuffer=buffpek->elements-1;
  260.   }
  261.   else
  262.     *maxbuffer=0;
  263.   DBUG_RETURN((*maxbuffer)*(keys-1)+idx);
  264. } /* find_all_keys */
  265. #ifdef THREAD
  266. /* Search after all keys and place them in a temp. file */
  267. pthread_handler_decl(thr_find_all_keys,arg)
  268. {
  269.   MI_SORT_PARAM *info= (MI_SORT_PARAM*) arg;
  270.   int error;
  271.   uint memavl,old_memavl,keys,sort_length;
  272.   uint idx, maxbuffer;
  273.   uchar **sort_keys=0;
  274.   LINT_INIT(keys);
  275.   error=1;
  276.   if (my_thread_init())
  277.     goto err;
  278.   if (info->sort_info->got_error)
  279.     goto err;
  280.   if (info->keyinfo->flag && HA_VAR_LENGTH_KEY)
  281.   {
  282.     info->write_keys=write_keys_varlen;
  283.     info->read_to_buffer=read_to_buffer_varlen;
  284.     info->write_key=write_merge_key_varlen;
  285.   }
  286.   else
  287.   {
  288.     info->write_keys=write_keys;
  289.     info->read_to_buffer=read_to_buffer;
  290.     info->write_key=write_merge_key;
  291.   }
  292.   my_b_clear(&info->tempfile);
  293.   my_b_clear(&info->tempfile_for_exceptions);
  294.   bzero((char*) &info->buffpek,sizeof(info->buffpek));
  295.   bzero((char*) &info->unique, sizeof(info->unique));
  296.   sort_keys= (uchar **) NULL;
  297.   memavl=max(info->sortbuff_size, MIN_SORT_MEMORY);
  298.   idx=      info->sort_info->max_records;
  299.   sort_length=  info->key_length;
  300.   maxbuffer= 1;
  301.   while (memavl >= MIN_SORT_MEMORY)
  302.   {
  303.     if ((my_off_t) (idx+1)*(sort_length+sizeof(char*)) <=
  304.         (my_off_t) memavl)
  305.       keys= idx+1;
  306.     else
  307.     {
  308.       uint skr;
  309.       do
  310.       {
  311.         skr=maxbuffer;
  312.         if (memavl < sizeof(BUFFPEK)*maxbuffer ||
  313.             (keys=(memavl-sizeof(BUFFPEK)*maxbuffer)/
  314.              (sort_length+sizeof(char*))) <= 1)
  315.         {
  316.           mi_check_print_error(info->sort_info->param,
  317.                                "sort_buffer_size is to small");
  318.           goto err;
  319.         }
  320.       }
  321.       while ((maxbuffer= (int) (idx/(keys-1)+1)) != skr);
  322.     }
  323.     if ((sort_keys=(uchar **)my_malloc(keys*(sort_length+sizeof(char*))+
  324.        ((info->keyinfo->flag & HA_FULLTEXT) ?
  325. HA_FT_MAXBYTELEN : 0), MYF(0))))
  326.     {
  327.       if (my_init_dynamic_array(&info->buffpek, sizeof(BUFFPEK),
  328. maxbuffer, maxbuffer/2))
  329.         my_free((gptr) sort_keys,MYF(0));
  330.       else
  331.         break;
  332.     }
  333.     old_memavl=memavl;
  334.     if ((memavl=memavl/4*3) < MIN_SORT_MEMORY && old_memavl > MIN_SORT_MEMORY)
  335.       memavl=MIN_SORT_MEMORY;
  336.   }
  337.   if (memavl < MIN_SORT_MEMORY)
  338.   {
  339.     mi_check_print_error(info->sort_info->param,"Sort buffer to small"); /* purecov: tested */
  340.     goto err; /* purecov: tested */
  341.   }
  342.   if (info->sort_info->param->testflag & T_VERBOSE)
  343.     printf("Key %d - Allocating buffer for %d keysn",info->key+1,keys);
  344.   info->sort_keys=sort_keys;
  345.   idx=error=0;
  346.   sort_keys[0]=(uchar*) (sort_keys+keys);
  347.   while (!(error=info->sort_info->got_error) &&
  348.          !(error=(*info->key_read)(info,sort_keys[idx])))
  349.   {
  350.     if (info->real_key_length > info->key_length)
  351.     {
  352.       if (write_key(info,sort_keys[idx], &info->tempfile_for_exceptions))
  353.         goto err;
  354.       continue;
  355.     }
  356.     if (++idx == keys)
  357.     {
  358.       if (info->write_keys(info,sort_keys,idx-1,
  359.      (BUFFPEK *)alloc_dynamic(&info->buffpek),
  360.      &info->tempfile))
  361.         goto err;
  362.       sort_keys[0]=(uchar*) (sort_keys+keys);
  363.       memcpy(sort_keys[0],sort_keys[idx-1],(size_t) info->key_length);
  364.       idx=1;
  365.     }
  366.     sort_keys[idx]=sort_keys[idx-1]+info->key_length;
  367.   }
  368.   if (error > 0)
  369.     goto err;
  370.   if (info->buffpek.elements)
  371.   {
  372.     if (info->write_keys(info,sort_keys, idx,
  373.    (BUFFPEK *) alloc_dynamic(&info->buffpek), &info->tempfile))
  374.       goto err;
  375.     info->keys=(info->buffpek.elements-1)*(keys-1)+idx;
  376.   }
  377.   else
  378.     info->keys=idx;
  379.   info->sort_keys_length=keys;
  380.   goto ok;
  381. err:
  382.   info->sort_info->got_error=1; /* no need to protect this with a mutex */
  383.   if (sort_keys)
  384.     my_free((gptr) sort_keys,MYF(0));
  385.   info->sort_keys=0;
  386.   delete_dynamic(& info->buffpek);
  387.   close_cached_file(&info->tempfile);
  388.   close_cached_file(&info->tempfile_for_exceptions);
  389. ok:
  390.   remove_io_thread(&info->read_cache);
  391.   pthread_mutex_lock(&info->sort_info->mutex);
  392.   info->sort_info->threads_running--;
  393.   pthread_cond_signal(&info->sort_info->cond);
  394.   pthread_mutex_unlock(&info->sort_info->mutex);
  395.   my_thread_end();
  396.   return NULL;
  397. }
  398. int thr_write_keys(MI_SORT_PARAM *sort_param)
  399. {
  400.   SORT_INFO *sort_info=sort_param->sort_info;
  401.   MI_CHECK *param=sort_info->param;
  402.   ulong length, keys;
  403.   ulong *rec_per_key_part=param->rec_per_key_part;
  404.   int got_error=sort_info->got_error;
  405.   uint i;
  406.   MI_INFO *info=sort_info->info;
  407.   MYISAM_SHARE *share=info->s;
  408.   MI_SORT_PARAM *sinfo;
  409.   byte *mergebuf=0;
  410.   LINT_INIT(length);
  411.   for (i= 0, sinfo= sort_param ;
  412.        i < sort_info->total_keys ;
  413.        i++, rec_per_key_part+=sinfo->keyinfo->keysegs, sinfo++)
  414.   {
  415.     if (!sinfo->sort_keys)
  416.     {
  417.       got_error=1;
  418.       continue;
  419.     }
  420.     if (!got_error)
  421.     {
  422.       share->state.key_map|=(ulonglong) 1 << sinfo->key;
  423.       if (param->testflag & T_STATISTICS)
  424.         update_key_parts(sinfo->keyinfo, rec_per_key_part, sinfo->unique,
  425.                          param->stats_method == MI_STATS_METHOD_IGNORE_NULLS?
  426.                          sinfo->notnull: NULL,
  427.                          (ulonglong) info->state->records);
  428.       if (!sinfo->buffpek.elements)
  429.       {
  430.         if (param->testflag & T_VERBOSE)
  431.         {
  432.           printf("Key %d  - Dumping %u keysn",sinfo->key+1, sinfo->keys);
  433.           fflush(stdout);
  434.         }
  435.         if (write_index(sinfo, sinfo->sort_keys, sinfo->keys) ||
  436.             flush_ft_buf(sinfo) || flush_pending_blocks(sinfo))
  437.           got_error=1;
  438.       }
  439.     }
  440.     my_free((gptr) sinfo->sort_keys,MYF(0));
  441.     my_free(mi_get_rec_buff_ptr(info, sinfo->rec_buff),
  442.     MYF(MY_ALLOW_ZERO_PTR));
  443.     sinfo->sort_keys=0;
  444.   }
  445.   for (i= 0, sinfo= sort_param ;
  446.        i < sort_info->total_keys ;
  447.        i++,
  448.  delete_dynamic(&sinfo->buffpek),
  449.  close_cached_file(&sinfo->tempfile),
  450.  close_cached_file(&sinfo->tempfile_for_exceptions),
  451.  sinfo++)
  452.   {
  453.     if (got_error)
  454.       continue;
  455.     if (sinfo->keyinfo->flag && HA_VAR_LENGTH_KEY)
  456.     {
  457.       sinfo->write_keys=write_keys_varlen;
  458.       sinfo->read_to_buffer=read_to_buffer_varlen;
  459.       sinfo->write_key=write_merge_key_varlen;
  460.     }
  461.     else
  462.     {
  463.       sinfo->write_keys=write_keys;
  464.       sinfo->read_to_buffer=read_to_buffer;
  465.       sinfo->write_key=write_merge_key;
  466.     }
  467.     if (sinfo->buffpek.elements)
  468.     {
  469.       uint maxbuffer=sinfo->buffpek.elements-1;
  470.       if (!mergebuf)
  471.       {
  472.         length=param->sort_buffer_length;
  473.         while (length >= MIN_SORT_MEMORY && !mergebuf)
  474.         {
  475.           mergebuf=my_malloc(length, MYF(0));
  476.           length=length*3/4;
  477.         }
  478.         if (!mergebuf)
  479.         {
  480.           got_error=1;
  481.           continue;
  482.         }
  483.       }
  484.       keys=length/sinfo->key_length;
  485.       if (maxbuffer >= MERGEBUFF2)
  486.       {
  487.         if (param->testflag & T_VERBOSE)
  488.           printf("Key %d  - Merging %u keysn",sinfo->key+1, sinfo->keys);
  489.         if (merge_many_buff(sinfo, keys, (uchar **)mergebuf,
  490.     dynamic_element(&sinfo->buffpek, 0, BUFFPEK *),
  491.     (int*) &maxbuffer, &sinfo->tempfile))
  492.         {
  493.           got_error=1;
  494.           continue;
  495.         }
  496.       }
  497.       if (flush_io_cache(&sinfo->tempfile) ||
  498.           reinit_io_cache(&sinfo->tempfile,READ_CACHE,0L,0,0))
  499.       {
  500.         got_error=1;
  501.         continue;
  502.       }
  503.       if (param->testflag & T_VERBOSE)
  504.         printf("Key %d  - Last merge and dumping keysn", sinfo->key+1);
  505.       if (merge_index(sinfo, keys, (uchar **)mergebuf,
  506.                       dynamic_element(&sinfo->buffpek,0,BUFFPEK *),
  507.                       maxbuffer,&sinfo->tempfile) ||
  508.           flush_ft_buf(sinfo) ||
  509.   flush_pending_blocks(sinfo))
  510.       {
  511.         got_error=1;
  512.         continue;
  513.       }
  514.     }
  515.     if (my_b_inited(&sinfo->tempfile_for_exceptions))
  516.     {
  517.       uint key_length;
  518.       if (param->testflag & T_VERBOSE)
  519.         printf("Key %d  - Dumping 'long' keysn", sinfo->key+1);
  520.       if (flush_io_cache(&sinfo->tempfile_for_exceptions) ||
  521.           reinit_io_cache(&sinfo->tempfile_for_exceptions,READ_CACHE,0L,0,0))
  522.       {
  523.         got_error=1;
  524.         continue;
  525.       }
  526.       while (!got_error &&
  527.      !my_b_read(&sinfo->tempfile_for_exceptions,(byte*)&key_length,
  528. sizeof(key_length)))
  529.       {
  530.         byte ft_buf[HA_FT_MAXBYTELEN + HA_FT_WLEN + 10];
  531.         if (key_length > sizeof(ft_buf) ||
  532.             my_b_read(&sinfo->tempfile_for_exceptions, (byte*)ft_buf,
  533.                       (uint)key_length) ||
  534.             _mi_ck_write(info, sinfo->key, (uchar*)ft_buf,
  535.                          key_length - info->s->rec_reflength))
  536.           got_error=1;
  537.       }
  538.     }
  539.   }
  540.   my_free((gptr) mergebuf,MYF(MY_ALLOW_ZERO_PTR));
  541.   return got_error;
  542. }
  543. #endif /* THREAD */
  544.         /* Write all keys in memory to file for later merge */
  545. static int NEAR_F write_keys(MI_SORT_PARAM *info, register uchar **sort_keys,
  546.                              uint count, BUFFPEK *buffpek, IO_CACHE *tempfile)
  547. {
  548.   uchar **end;
  549.   uint sort_length=info->key_length;
  550.   DBUG_ENTER("write_keys");
  551.   qsort2((byte*) sort_keys,count,sizeof(byte*),(qsort2_cmp) info->key_cmp,
  552.          info);
  553.   if (!my_b_inited(tempfile) &&
  554.       open_cached_file(tempfile, my_tmpdir(info->tmpdir), "ST",
  555.                        DISK_BUFFER_SIZE, info->sort_info->param->myf_rw))
  556.     DBUG_RETURN(1); /* purecov: inspected */
  557.   buffpek->file_pos=my_b_tell(tempfile);
  558.   buffpek->count=count;
  559.   for (end=sort_keys+count ; sort_keys != end ; sort_keys++)
  560.   {
  561.     if (my_b_write(tempfile,(byte*) *sort_keys,(uint) sort_length))
  562.       DBUG_RETURN(1); /* purecov: inspected */
  563.   }
  564.   DBUG_RETURN(0);
  565. } /* write_keys */
  566. static inline int
  567. my_var_write(MI_SORT_PARAM *info, IO_CACHE *to_file, byte *bufs)
  568. {
  569.   int err;
  570.   uint16 len = _mi_keylength(info->keyinfo, (uchar*) bufs);
  571.   /* The following is safe as this is a local file */
  572.   if ((err= my_b_write(to_file, (byte*)&len, sizeof(len))))
  573.     return (err);
  574.   if ((err= my_b_write(to_file,bufs, (uint) len)))
  575.     return (err);
  576.   return (0);
  577. }
  578. static int NEAR_F write_keys_varlen(MI_SORT_PARAM *info,
  579.     register uchar **sort_keys,
  580.                                     uint count, BUFFPEK *buffpek,
  581.     IO_CACHE *tempfile)
  582. {
  583.   uchar **end;
  584.   int err;
  585.   DBUG_ENTER("write_keys_varlen");
  586.   qsort2((byte*) sort_keys,count,sizeof(byte*),(qsort2_cmp) info->key_cmp,
  587.          info);
  588.   if (!my_b_inited(tempfile) &&
  589.       open_cached_file(tempfile, my_tmpdir(info->tmpdir), "ST",
  590.                        DISK_BUFFER_SIZE, info->sort_info->param->myf_rw))
  591.     DBUG_RETURN(1); /* purecov: inspected */
  592.   buffpek->file_pos=my_b_tell(tempfile);
  593.   buffpek->count=count;
  594.   for (end=sort_keys+count ; sort_keys != end ; sort_keys++)
  595.   {
  596.     if ((err= my_var_write(info,tempfile, (byte*) *sort_keys)))
  597.       DBUG_RETURN(err);
  598.   }
  599.   DBUG_RETURN(0);
  600. } /* write_keys_varlen */
  601. static int NEAR_F write_key(MI_SORT_PARAM *info, uchar *key,
  602.     IO_CACHE *tempfile)
  603. {
  604.   uint key_length=info->real_key_length;
  605.   DBUG_ENTER("write_key");
  606.   if (!my_b_inited(tempfile) &&
  607.       open_cached_file(tempfile, my_tmpdir(info->tmpdir), "ST",
  608.                        DISK_BUFFER_SIZE, info->sort_info->param->myf_rw))
  609.     DBUG_RETURN(1);
  610.   if (my_b_write(tempfile,(byte*)&key_length,sizeof(key_length)) ||
  611.       my_b_write(tempfile,(byte*)key,(uint) key_length))
  612.     DBUG_RETURN(1);
  613.   DBUG_RETURN(0);
  614. } /* write_key */
  615. /* Write index */
  616. static int NEAR_F write_index(MI_SORT_PARAM *info, register uchar **sort_keys,
  617.                               register uint count)
  618. {
  619.   DBUG_ENTER("write_index");
  620.   qsort2((gptr) sort_keys,(size_t) count,sizeof(byte*),
  621.         (qsort2_cmp) info->key_cmp,info);
  622.   while (count--)
  623.   {
  624.     if ((*info->key_write)(info,*sort_keys++))
  625.       DBUG_RETURN(-1); /* purecov: inspected */
  626.   }
  627.   DBUG_RETURN(0);
  628. } /* write_index */
  629.         /* Merge buffers to make < MERGEBUFF2 buffers */
  630. static int NEAR_F merge_many_buff(MI_SORT_PARAM *info, uint keys,
  631.                                   uchar **sort_keys, BUFFPEK *buffpek,
  632.                                   int *maxbuffer, IO_CACHE *t_file)
  633. {
  634.   register int i;
  635.   IO_CACHE t_file2, *from_file, *to_file, *temp;
  636.   BUFFPEK *lastbuff;
  637.   DBUG_ENTER("merge_many_buff");
  638.   if (*maxbuffer < MERGEBUFF2)
  639.     DBUG_RETURN(0);                             /* purecov: inspected */
  640.   if (flush_io_cache(t_file) ||
  641.       open_cached_file(&t_file2,my_tmpdir(info->tmpdir),"ST",
  642.                        DISK_BUFFER_SIZE, info->sort_info->param->myf_rw))
  643.     DBUG_RETURN(1);                             /* purecov: inspected */
  644.   from_file= t_file ; to_file= &t_file2;
  645.   while (*maxbuffer >= MERGEBUFF2)
  646.   {
  647.     reinit_io_cache(from_file,READ_CACHE,0L,0,0);
  648.     reinit_io_cache(to_file,WRITE_CACHE,0L,0,0);
  649.     lastbuff=buffpek;
  650.     for (i=0 ; i <= *maxbuffer-MERGEBUFF*3/2 ; i+=MERGEBUFF)
  651.     {
  652.       if (merge_buffers(info,keys,from_file,to_file,sort_keys,lastbuff++,
  653.                         buffpek+i,buffpek+i+MERGEBUFF-1))
  654.         break; /* purecov: inspected */
  655.     }
  656.     if (merge_buffers(info,keys,from_file,to_file,sort_keys,lastbuff++,
  657.                       buffpek+i,buffpek+ *maxbuffer))
  658.       break; /* purecov: inspected */
  659.     if (flush_io_cache(to_file))
  660.       break;                                    /* purecov: inspected */
  661.     temp=from_file; from_file=to_file; to_file=temp;
  662.     *maxbuffer= (int) (lastbuff-buffpek)-1;
  663.   }
  664.   close_cached_file(to_file);                   /* This holds old result */
  665.   if (to_file == t_file)
  666.     *t_file=t_file2;                            /* Copy result file */
  667.   DBUG_RETURN(*maxbuffer >= MERGEBUFF2);        /* Return 1 if interrupted */
  668. } /* merge_many_buff */
  669. /*
  670.    Read data to buffer
  671.   SYNOPSIS
  672.     read_to_buffer()
  673.     fromfile File to read from
  674.     buffpek Where to read from
  675.     sort_length max length to read
  676.   RESULT
  677.     > 0 Ammount of bytes read
  678.     -1 Error
  679. */
  680. static uint NEAR_F read_to_buffer(IO_CACHE *fromfile, BUFFPEK *buffpek,
  681.                                   uint sort_length)
  682. {
  683.   register uint count;
  684.   uint length;
  685.   if ((count=(uint) min((ha_rows) buffpek->max_keys,buffpek->count)))
  686.   {
  687.     if (my_pread(fromfile->file,(byte*) buffpek->base,
  688.                  (length= sort_length*count),buffpek->file_pos,MYF_RW))
  689.       return((uint) -1);                        /* purecov: inspected */
  690.     buffpek->key=buffpek->base;
  691.     buffpek->file_pos+= length;                 /* New filepos */
  692.     buffpek->count-=    count;
  693.     buffpek->mem_count= count;
  694.   }
  695.   return (count*sort_length);
  696. } /* read_to_buffer */
  697. static uint NEAR_F read_to_buffer_varlen(IO_CACHE *fromfile, BUFFPEK *buffpek,
  698.                                          uint sort_length)
  699. {
  700.   register uint count;
  701.   uint16 length_of_key = 0;
  702.   uint idx;
  703.   uchar *buffp;
  704.   if ((count=(uint) min((ha_rows) buffpek->max_keys,buffpek->count)))
  705.   {
  706.     buffp = buffpek->base;
  707.     for (idx=1;idx<=count;idx++)
  708.     {
  709.       if (my_pread(fromfile->file,(byte*)&length_of_key,sizeof(length_of_key),
  710.                    buffpek->file_pos,MYF_RW))
  711.         return((uint) -1);
  712.       buffpek->file_pos+=sizeof(length_of_key);
  713.       if (my_pread(fromfile->file,(byte*) buffp,length_of_key,
  714.                    buffpek->file_pos,MYF_RW))
  715.         return((uint) -1);
  716.       buffpek->file_pos+=length_of_key;
  717.       buffp = buffp + sort_length;
  718.     }
  719.     buffpek->key=buffpek->base;
  720.     buffpek->count-=    count;
  721.     buffpek->mem_count= count;
  722.   }
  723.   return (count*sort_length);
  724. } /* read_to_buffer_varlen */
  725. static int NEAR_F write_merge_key_varlen(MI_SORT_PARAM *info,
  726.  IO_CACHE *to_file,char* key,
  727.                                          uint sort_length, uint count)
  728. {
  729.   uint idx;
  730.   char *bufs = key;
  731.   for (idx=1;idx<=count;idx++)
  732.   {
  733.     int err;
  734.     if ((err= my_var_write(info,to_file, (byte*) bufs)))
  735.       return (err);
  736.     bufs=bufs+sort_length;
  737.   }
  738.   return(0);
  739. }
  740. static int NEAR_F write_merge_key(MI_SORT_PARAM *info __attribute__((unused)),
  741.   IO_CACHE *to_file, char* key,
  742.   uint sort_length, uint count)
  743. {
  744.   return my_b_write(to_file,(byte*) key,(uint) sort_length*count);
  745. }
  746. /*
  747.   Merge buffers to one buffer
  748.   If to_file == 0 then use info->key_write
  749. */
  750. static int NEAR_F
  751. merge_buffers(MI_SORT_PARAM *info, uint keys, IO_CACHE *from_file,
  752.               IO_CACHE *to_file, uchar **sort_keys, BUFFPEK *lastbuff,
  753.               BUFFPEK *Fb, BUFFPEK *Tb)
  754. {
  755.   int error;
  756.   uint sort_length,maxcount;
  757.   ha_rows count;
  758.   my_off_t to_start_filepos;
  759.   uchar *strpos;
  760.   BUFFPEK *buffpek,**refpek;
  761.   QUEUE queue;
  762.   volatile my_bool *killed= killed_ptr(info->sort_info->param);
  763.   DBUG_ENTER("merge_buffers");
  764.   count=error=0;
  765.   maxcount=keys/((uint) (Tb-Fb) +1);
  766.   LINT_INIT(to_start_filepos);
  767.   if (to_file)
  768.     to_start_filepos=my_b_tell(to_file);
  769.   strpos=(uchar*) sort_keys;
  770.   sort_length=info->key_length;
  771.   if (init_queue(&queue,(uint) (Tb-Fb)+1,offsetof(BUFFPEK,key),0,
  772.                  (int (*)(void*, byte *,byte*)) info->key_cmp,
  773.                  (void*) info))
  774.     DBUG_RETURN(1); /* purecov: inspected */
  775.   for (buffpek= Fb ; buffpek <= Tb ; buffpek++)
  776.   {
  777.     count+= buffpek->count;
  778.     buffpek->base= strpos;
  779.     buffpek->max_keys=maxcount;
  780.     strpos+= (uint) (error=(int) info->read_to_buffer(from_file,buffpek,
  781.                                                       sort_length));
  782.     if (error == -1)
  783.       goto err; /* purecov: inspected */
  784.     queue_insert(&queue,(char*) buffpek);
  785.   }
  786.   while (queue.elements > 1)
  787.   {
  788.     for (;;)
  789.     {
  790.       if (*killed)
  791.       {
  792.         error=1; goto err;
  793.       }
  794.       buffpek=(BUFFPEK*) queue_top(&queue);
  795.       if (to_file)
  796.       {
  797.         if (info->write_key(info,to_file,(byte*) buffpek->key,
  798.                             (uint) sort_length,1))
  799.         {
  800.           error=1; goto err; /* purecov: inspected */
  801.         }
  802.       }
  803.       else
  804.       {
  805.         if ((*info->key_write)(info,(void*) buffpek->key))
  806.         {
  807.           error=1; goto err; /* purecov: inspected */
  808.         }
  809.       }
  810.       buffpek->key+=sort_length;
  811.       if (! --buffpek->mem_count)
  812.       {
  813.         if (!(error=(int) info->read_to_buffer(from_file,buffpek,sort_length)))
  814.         {
  815.           uchar *base=buffpek->base;
  816.           uint max_keys=buffpek->max_keys;
  817.           VOID(queue_remove(&queue,0));
  818.           /* Put room used by buffer to use in other buffer */
  819.           for (refpek= (BUFFPEK**) &queue_top(&queue);
  820.                refpek <= (BUFFPEK**) &queue_end(&queue);
  821.                refpek++)
  822.           {
  823.             buffpek= *refpek;
  824.             if (buffpek->base+buffpek->max_keys*sort_length == base)
  825.             {
  826.               buffpek->max_keys+=max_keys;
  827.               break;
  828.             }
  829.             else if (base+max_keys*sort_length == buffpek->base)
  830.             {
  831.               buffpek->base=base;
  832.               buffpek->max_keys+=max_keys;
  833.               break;
  834.             }
  835.           }
  836.           break;                /* One buffer have been removed */
  837.         }
  838.       }
  839.       else if (error == -1)
  840.         goto err;               /* purecov: inspected */
  841.       queue_replaced(&queue);   /* Top element has been replaced */
  842.     }
  843.   }
  844.   buffpek=(BUFFPEK*) queue_top(&queue);
  845.   buffpek->base=(uchar *) sort_keys;
  846.   buffpek->max_keys=keys;
  847.   do
  848.   {
  849.     if (to_file)
  850.     {
  851.       if (info->write_key(info,to_file,(byte*) buffpek->key,
  852.                          sort_length,buffpek->mem_count))
  853.       {
  854.         error=1; goto err; /* purecov: inspected */
  855.       }
  856.     }
  857.     else
  858.     {
  859.       register uchar *end;
  860.       strpos= buffpek->key;
  861.       for (end=strpos+buffpek->mem_count*sort_length;
  862.            strpos != end ;
  863.            strpos+=sort_length)
  864.       {
  865.         if ((*info->key_write)(info,(void*) strpos))
  866.         {
  867.           error=1; goto err; /* purecov: inspected */
  868.         }
  869.       }
  870.     }
  871.   }
  872.   while ((error=(int) info->read_to_buffer(from_file,buffpek,sort_length)) != -1 &&
  873.          error != 0);
  874.   lastbuff->count=count;
  875.   if (to_file)
  876.     lastbuff->file_pos=to_start_filepos;
  877. err:
  878.   delete_queue(&queue);
  879.   DBUG_RETURN(error);
  880. } /* merge_buffers */
  881.         /* Do a merge to output-file (save only positions) */
  882. static int NEAR_F
  883. merge_index(MI_SORT_PARAM *info, uint keys, uchar **sort_keys,
  884.             BUFFPEK *buffpek, int maxbuffer, IO_CACHE *tempfile)
  885. {
  886.   DBUG_ENTER("merge_index");
  887.   if (merge_buffers(info,keys,tempfile,(IO_CACHE*) 0,sort_keys,buffpek,buffpek,
  888.                     buffpek+maxbuffer))
  889.     DBUG_RETURN(1); /* purecov: inspected */
  890.   DBUG_RETURN(0);
  891. } /* merge_index */
  892. static int
  893. flush_ft_buf(MI_SORT_PARAM *info)
  894. {
  895.   int err=0;
  896.   if (info->sort_info->ft_buf)
  897.   {
  898.     err=sort_ft_buf_flush(info);
  899.     my_free((gptr)info->sort_info->ft_buf, MYF(0));
  900.     info->sort_info->ft_buf=0;
  901.   }
  902.   return err;
  903. }