replace.c
上传用户:romrleung
上传日期:2022-05-23
资源大小:18897k
文件大小:28k
源码类别:

MySQL数据库

开发平台:

Visual C++

  1. /* Copyright (C) 2000 MySQL AB
  2.    This program is free software; you can redistribute it and/or modify
  3.    it under the terms of the GNU General Public License as published by
  4.    the Free Software Foundation; either version 2 of the License, or
  5.    (at your option) any later version.
  6.    This program is distributed in the hope that it will be useful,
  7.    but WITHOUT ANY WARRANTY; without even the implied warranty of
  8.    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  9.    GNU General Public License for more details.
  10.    You should have received a copy of the GNU General Public License
  11.    along with this program; if not, write to the Free Software
  12.    Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA */
  13. /*
  14.   Replace strings in textfile
  15.   This program replaces strings in files or from stdin to stdout.
  16.   It accepts a list of from-string/to-string pairs and replaces
  17.   each occurrence of a from-string with the corresponding to-string.
  18.   The first occurrence of a found string is matched. If there is more
  19.   than one possibility for the string to replace, longer matches
  20.   are preferred before shorter matches.
  21.   Special characters in from string:
  22.   ^    Match start of line.
  23.   $ Match end of line.
  24.   b Match space-character, start of line or end of line.
  25.         For end b the next replace starts locking at the end space-character.
  26.         An b alone or in a string matches only a space-character.
  27.   r, t, v as in C.
  28.   The programs make a DFA-state-machine of the strings and the speed isn't
  29.   dependent on the count of replace-strings (only of the number of replaces).
  30.   A line is assumed ending with n or .
  31.   There are no limit exept memory on length of strings.
  32.   Written by Monty.
  33.   fill_buffer_retaining() is taken from gnu-grep and modified.
  34. */
  35. #define DONT_USE_RAID
  36. #include <my_global.h>
  37. #include <m_ctype.h>
  38. #include <my_sys.h>
  39. #include <m_string.h>
  40. #include <errno.h>
  41. #define PC_MALLOC 256 /* Bytes for pointers */
  42. #define PS_MALLOC 512 /* Bytes for data */
  43. typedef struct st_pointer_array { /* when using array-strings */
  44.   TYPELIB typelib; /* Pointer to strings */
  45.   byte *str; /* Strings is here */
  46.   int7 *flag; /* Flag about each var. */
  47.   uint  array_allocs,max_count,length,max_length;
  48. } POINTER_ARRAY;
  49. #define SPACE_CHAR 256
  50. #define START_OF_LINE 257
  51. #define END_OF_LINE 258
  52. #define LAST_CHAR_CODE 259
  53. typedef struct st_replace {
  54.   bool   found;
  55.   struct st_replace *next[256];
  56. } REPLACE;
  57. typedef struct st_replace_found {
  58.   bool found;
  59.   char *replace_string;
  60.   uint to_offset;
  61.   int from_offset;
  62. } REPLACE_STRING;
  63. #ifndef WORD_BIT
  64. #define WORD_BIT (8*sizeof(uint))
  65. #endif
  66. /* functions defined in this file */
  67. extern int main(int argc,char * *argv);
  68. static int static_get_options(int *argc,char * * *argv);
  69. static int get_replace_strings(int *argc,char * * *argv,
  70.    POINTER_ARRAY *from_array,
  71.    POINTER_ARRAY *to_array);
  72. int insert_pointer_name(POINTER_ARRAY *pa, my_string name);
  73. void free_pointer_array(POINTER_ARRAY *pa);
  74. static int convert_pipe(REPLACE *,FILE *,FILE *);
  75. static int convert_file(REPLACE *, my_string);
  76. REPLACE *init_replace(my_string *from, my_string *to,uint count, my_string
  77.       word_end_chars);
  78. uint replace_strings(REPLACE *rep, my_string *start,uint *max_length,
  79.      my_string from);
  80. static int initialize_buffer(void);
  81. static void reset_buffer(void);
  82. static void free_buffer(void);
  83. static int silent=0,verbose=0,updated=0;
  84. /* The main program */
  85. int main(argc,argv)
  86. int argc;
  87. char *argv[];
  88. {
  89.   int i,error;
  90.   char word_end_chars[256],*pos;
  91.   POINTER_ARRAY from,to;
  92.   REPLACE *replace;
  93.   MY_INIT(argv[0]);
  94.   if (static_get_options(&argc,&argv))
  95.     exit(1);
  96.   if (get_replace_strings(&argc,&argv,&from,&to))
  97.     exit(1);
  98.   for (i=1,pos=word_end_chars ; i < 256 ; i++)
  99.     if (my_isspace(&my_charset_latin1,i))
  100.       *pos++=i;
  101.   *pos=0;
  102.   if (!(replace=init_replace((char**) from.typelib.type_names,
  103.      (char**) to.typelib.type_names,
  104.      (uint) from.typelib.count,word_end_chars)))
  105.     exit(1);
  106.   free_pointer_array(&from);
  107.   free_pointer_array(&to);
  108.   if (initialize_buffer())
  109.     return 1;
  110.   error=0;
  111.   if (argc == 0)
  112.     error=convert_pipe(replace,stdin,stdout);
  113.   else
  114.   {
  115.     while (argc--)
  116.     {
  117.       error=convert_file(replace,*(argv++));
  118.     }
  119.   }
  120.   free_buffer();
  121.   my_end(verbose ? MY_CHECK_ERROR | MY_GIVE_INFO : MY_CHECK_ERROR);
  122.   exit(error ? 2 : 0);
  123.   return 0; /* No compiler warning */
  124. } /* main */
  125. /* reads options */
  126. /* Initiates DEBUG - but no debugging here ! */
  127. static int static_get_options(argc,argv)
  128. register int *argc;
  129. register char **argv[];
  130. {
  131.   int help,version,opt;
  132.   char *pos;
  133.   silent=verbose=help=0;
  134.   while (--*argc > 0 && *(pos = *(++*argv)) == '-' && pos[1] != '-') {
  135.     while (*++pos)
  136.     {
  137.       version=0;
  138.       switch((opt= *pos)) {
  139.       case 's':
  140. silent=1;
  141. break;
  142.       case 'v':
  143. verbose=1;
  144. break;
  145.       case '#':
  146. DBUG_PUSH (++pos);
  147. pos= (char*) " "; /* Skip rest of arguments */
  148. break;
  149.       case 'V':
  150. version=1;
  151.       case 'I':
  152.       case '?':
  153. help=1; /* Help text written */
  154. printf("%s  Ver 1.3 for %s at %sn",my_progname,SYSTEM_TYPE,
  155.        MACHINE_TYPE);
  156. if (version)
  157.   break;
  158. puts("This software comes with ABSOLUTELY NO WARRANTY. This is free software,nand you are welcome to modify and redistribute it under the GPL licensen");
  159. puts("This program replaces strings in files or from stdin to stdout.n"
  160.      "It accepts a list of from-string/to-string pairs and replacesn"
  161.      "each occurrence of a from-string with the corresponding to-string.n"
  162.          "The first occurrence of a found string is matched. If there isn"
  163.          "more than one possibility for the string to replace, longern"
  164.          "matches are preferred before shorter matches.nn"
  165.      "A from-string can contain these special characters:n"
  166.      "  \^      Match start of line.n"
  167.      "  \$      Match end of line.n"
  168.      "  \b      Match space-character, start of line or end of line.n"
  169.      "          For a end \b the next replace starts locking at the endn"
  170.      "          space-character. A \b alone in a string matches only an"
  171.      "          space-character.n");
  172.   printf("Usage: %s [-?svIV] from to from to ... -- [files]n", my_progname);
  173. puts("or");
  174.   printf("Usage: %s [-?svIV] from to from to ... < fromfile > tofilen", my_progname);
  175. puts("");
  176. puts("Options: -? or -I "Info"  -s "silent"      -v "verbose"");
  177. break;
  178.       default:
  179. fprintf(stderr,"illegal option: -%cn",*pos);
  180. break;
  181.       }
  182.     }
  183.   }
  184.   if (*argc == 0)
  185.   {
  186.     if (!help)
  187.       my_message(0,"No replace options given",MYF(ME_BELL));
  188.     exit(0); /* Don't use as pipe */
  189.   }
  190.   return(0);
  191. } /* static_get_options */
  192. static int get_replace_strings(argc,argv,from_array,to_array)
  193. register int *argc;
  194. register char **argv[];
  195. POINTER_ARRAY *from_array,*to_array;
  196. {
  197.   char *pos;
  198.   bzero((char*) from_array,sizeof(from_array[0]));
  199.   bzero((char*) to_array,sizeof(to_array[0]));
  200.   while (*argc > 0 && (*(pos = *(*argv)) != '-' || pos[1] != '-' || pos[2]))
  201.   {
  202.     insert_pointer_name(from_array,pos);
  203.     (*argc)--;
  204.     (*argv)++;
  205.     if (!*argc || !strcmp(**argv,"--"))
  206.     {
  207.       my_message(0,"No to-string for last from-string",MYF(ME_BELL));
  208.       return 1;
  209.     }
  210.     insert_pointer_name(to_array,**argv);
  211.     (*argc)--;
  212.     (*argv)++;
  213.   }
  214.   if (*argc)
  215.   { /* Skip "--" argument */
  216.     (*argc)--;
  217.     (*argv)++;
  218.   }
  219.   return 0;
  220. }
  221. int insert_pointer_name(reg1 POINTER_ARRAY *pa,my_string name)
  222. {
  223.   uint i,length,old_count;
  224.   byte *new_pos;
  225.   const char **new_array;
  226.   DBUG_ENTER("insert_pointer_name");
  227.   if (! pa->typelib.count)
  228.   {
  229.     if (!(pa->typelib.type_names=(const char **)
  230.   my_malloc(((PC_MALLOC-MALLOC_OVERHEAD)/
  231.      (sizeof(my_string)+sizeof(*pa->flag))*
  232.      (sizeof(my_string)+sizeof(*pa->flag))),MYF(MY_WME))))
  233.       DBUG_RETURN(-1);
  234.     if (!(pa->str= (byte*) my_malloc((uint) (PS_MALLOC-MALLOC_OVERHEAD),
  235.      MYF(MY_WME))))
  236.     {
  237.       my_free((gptr) pa->typelib.type_names,MYF(0));
  238.       DBUG_RETURN (-1);
  239.     }
  240.     pa->max_count=(PC_MALLOC-MALLOC_OVERHEAD)/(sizeof(byte*)+
  241.        sizeof(*pa->flag));
  242.     pa->flag= (int7*) (pa->typelib.type_names+pa->max_count);
  243.     pa->length=0;
  244.     pa->max_length=PS_MALLOC-MALLOC_OVERHEAD;
  245.     pa->array_allocs=1;
  246.   }
  247.   length=(uint) strlen(name)+1;
  248.   if (pa->length+length >= pa->max_length)
  249.   {
  250.     pa->max_length=(pa->length+length+MALLOC_OVERHEAD+PS_MALLOC-1)/PS_MALLOC;
  251.     pa->max_length=pa->max_length*PS_MALLOC-MALLOC_OVERHEAD;
  252.     if (!(new_pos= (byte*) my_realloc((gptr) pa->str,
  253.       (uint) pa->max_length,
  254.       MYF(MY_WME))))
  255.       DBUG_RETURN(1);
  256.     if (new_pos != pa->str)
  257.     {
  258.       my_ptrdiff_t diff=PTR_BYTE_DIFF(new_pos,pa->str);
  259.       for (i=0 ; i < pa->typelib.count ; i++)
  260. pa->typelib.type_names[i]= ADD_TO_PTR(pa->typelib.type_names[i],diff,
  261.       char*);
  262.       pa->str=new_pos;
  263.     }
  264.   }
  265.   if (pa->typelib.count >= pa->max_count-1)
  266.   {
  267.     int len;
  268.     pa->array_allocs++;
  269.     len=(PC_MALLOC*pa->array_allocs - MALLOC_OVERHEAD);
  270.     if (!(new_array=(const char **) my_realloc((gptr) pa->typelib.type_names,
  271.        (uint) len/
  272.  (sizeof(byte*)+sizeof(*pa->flag))*
  273.  (sizeof(byte*)+sizeof(*pa->flag)),
  274.  MYF(MY_WME))))
  275.       DBUG_RETURN(1);
  276.     pa->typelib.type_names=new_array;
  277.     old_count=pa->max_count;
  278.     pa->max_count=len/(sizeof(byte*) + sizeof(*pa->flag));
  279.     pa->flag= (int7*) (pa->typelib.type_names+pa->max_count);
  280.     memcpy((byte*) pa->flag,(my_string) (pa->typelib.type_names+old_count),
  281.    old_count*sizeof(*pa->flag));
  282.   }
  283.   pa->flag[pa->typelib.count]=0; /* Reset flag */
  284.   pa->typelib.type_names[pa->typelib.count++]= pa->str+pa->length;
  285.   pa->typelib.type_names[pa->typelib.count]= NullS; /* Put end-mark */
  286.   VOID(strmov(pa->str+pa->length,name));
  287.   pa->length+=length;
  288.   DBUG_RETURN(0);
  289. } /* insert_pointer_name */
  290. /* free pointer array */
  291. void free_pointer_array(pa)
  292. reg1 POINTER_ARRAY *pa;
  293. {
  294.   if (pa->typelib.count)
  295.   {
  296.     pa->typelib.count=0;
  297.     my_free((gptr) pa->typelib.type_names,MYF(0));
  298.     pa->typelib.type_names=0;
  299.     my_free((gptr) pa->str,MYF(0));
  300.   }
  301.   return;
  302. } /* free_pointer_array */
  303. /* Code for replace rutines */
  304. #define SET_MALLOC_HUNC 64
  305. typedef struct st_rep_set {
  306.   uint  *bits; /* Pointer to used sets */
  307.   short next[LAST_CHAR_CODE]; /* Pointer to next sets */
  308.   uint found_len; /* Best match to date */
  309.   int found_offset;
  310.   uint  table_offset;
  311.   uint  size_of_bits; /* For convinience */
  312. } REP_SET;
  313. typedef struct st_rep_sets {
  314.   uint count; /* Number of sets */
  315.   uint extra; /* Extra sets in buffer */
  316.   uint invisible; /* Sets not chown */
  317.   uint size_of_bits;
  318.   REP_SET *set,*set_buffer;
  319.   uint *bit_buffer;
  320. } REP_SETS;
  321. typedef struct st_found_set {
  322.   uint table_offset;
  323.   int found_offset;
  324. } FOUND_SET;
  325. typedef struct st_follow {
  326.   int chr;
  327.   uint table_offset;
  328.   uint len;
  329. } FOLLOWS;
  330. static int init_sets(REP_SETS *sets,uint states);
  331. static REP_SET *make_new_set(REP_SETS *sets);
  332. static void make_sets_invisible(REP_SETS *sets);
  333. static void free_last_set(REP_SETS *sets);
  334. static void free_sets(REP_SETS *sets);
  335. static void internal_set_bit(REP_SET *set, uint bit);
  336. static void internal_clear_bit(REP_SET *set, uint bit);
  337. static void or_bits(REP_SET *to,REP_SET *from);
  338. static void copy_bits(REP_SET *to,REP_SET *from);
  339. static int cmp_bits(REP_SET *set1,REP_SET *set2);
  340. static int get_next_bit(REP_SET *set,uint lastpos);
  341. static int find_set(REP_SETS *sets,REP_SET *find);
  342. static int find_found(FOUND_SET *found_set,uint table_offset,
  343.   int found_offset);
  344. static uint start_at_word(my_string pos);
  345. static uint end_of_word(my_string pos);
  346. static uint replace_len(my_string pos);
  347. static uint found_sets=0;
  348. /* Init a replace structure for further calls */
  349. REPLACE *init_replace(my_string *from, my_string *to,uint count,
  350.       my_string word_end_chars)
  351. {
  352.   uint i,j,states,set_nr,len,result_len,max_length,found_end,bits_set,bit_nr;
  353.   int used_sets,chr,default_state;
  354.   char used_chars[LAST_CHAR_CODE],is_word_end[256];
  355.   my_string pos,to_pos,*to_array;
  356.   REP_SETS sets;
  357.   REP_SET *set,*start_states,*word_states,*new_set;
  358.   FOLLOWS *follow,*follow_ptr;
  359.   REPLACE *replace;
  360.   FOUND_SET *found_set;
  361.   REPLACE_STRING *rep_str;
  362.   DBUG_ENTER("init_replace");
  363.   /* Count number of states */
  364.   for (i=result_len=max_length=0 , states=2 ; i < count ; i++)
  365.   {
  366.     len=replace_len(from[i]);
  367.     if (!len)
  368.     {
  369.       errno=EINVAL;
  370.       my_message(0,"No to-string for last from-string",MYF(ME_BELL));
  371.       DBUG_RETURN(0);
  372.     }
  373.     states+=len+1;
  374.     result_len+=(uint) strlen(to[i])+1;
  375.     if (len > max_length)
  376.       max_length=len;
  377.   }
  378.   bzero((char*) is_word_end,sizeof(is_word_end));
  379.   for (i=0 ; word_end_chars[i] ; i++)
  380.     is_word_end[(uchar) word_end_chars[i]]=1;
  381.   if (init_sets(&sets,states))
  382.     DBUG_RETURN(0);
  383.   found_sets=0;
  384.   if (!(found_set= (FOUND_SET*) my_malloc(sizeof(FOUND_SET)*max_length*count,
  385.   MYF(MY_WME))))
  386.   {
  387.     free_sets(&sets);
  388.     DBUG_RETURN(0);
  389.   }
  390.   VOID(make_new_set(&sets)); /* Set starting set */
  391.   make_sets_invisible(&sets); /* Hide previus sets */
  392.   used_sets=-1;
  393.   word_states=make_new_set(&sets); /* Start of new word */
  394.   start_states=make_new_set(&sets); /* This is first state */
  395.   if (!(follow=(FOLLOWS*) my_malloc((states+2)*sizeof(FOLLOWS),MYF(MY_WME))))
  396.   {
  397.     free_sets(&sets);
  398.     my_free((gptr) found_set,MYF(0));
  399.     DBUG_RETURN(0);
  400.   }
  401. /* Init follow_ptr[] */
  402.   for (i=0, states=1, follow_ptr=follow+1 ; i < count ; i++)
  403.   {
  404.     if (from[i][0] == '\' && from[i][1] == '^')
  405.     {
  406.       internal_set_bit(start_states,states+1);
  407.       if (!from[i][2])
  408.       {
  409. start_states->table_offset=i;
  410. start_states->found_offset=1;
  411.       }
  412.     }
  413.     else if (from[i][0] == '\' && from[i][1] == '$')
  414.     {
  415.       internal_set_bit(start_states,states);
  416.       internal_set_bit(word_states,states);
  417.       if (!from[i][2] && start_states->table_offset == (uint) ~0)
  418.       {
  419. start_states->table_offset=i;
  420. start_states->found_offset=0;
  421.       }
  422.     }
  423.     else
  424.     {
  425.       internal_set_bit(word_states,states);
  426.       if (from[i][0] == '\' && (from[i][1] == 'b' && from[i][2]))
  427. internal_set_bit(start_states,states+1);
  428.       else
  429. internal_set_bit(start_states,states);
  430.     }
  431.     for (pos=from[i], len=0; *pos ; pos++)
  432.     {
  433.       if (*pos == '\' && *(pos+1))
  434.       {
  435. pos++;
  436. switch (*pos) {
  437. case 'b':
  438.   follow_ptr->chr = SPACE_CHAR;
  439.   break;
  440. case '^':
  441.   follow_ptr->chr = START_OF_LINE;
  442.   break;
  443. case '$':
  444.   follow_ptr->chr = END_OF_LINE;
  445.   break;
  446. case 'r':
  447.   follow_ptr->chr = 'r';
  448.   break;
  449. case 't':
  450.   follow_ptr->chr = 't';
  451.   break;
  452. case 'v':
  453.   follow_ptr->chr = 'v';
  454.   break;
  455. default:
  456.   follow_ptr->chr = (uchar) *pos;
  457.   break;
  458. }
  459.       }
  460.       else
  461. follow_ptr->chr= (uchar) *pos;
  462.       follow_ptr->table_offset=i;
  463.       follow_ptr->len= ++len;
  464.       follow_ptr++;
  465.     }
  466.     follow_ptr->chr=0;
  467.     follow_ptr->table_offset=i;
  468.     follow_ptr->len=len;
  469.     follow_ptr++;
  470.     states+=(uint) len+1;
  471.   }
  472.   for (set_nr=0,pos=0 ; set_nr < sets.count ; set_nr++)
  473.   {
  474.     set=sets.set+set_nr;
  475.     default_state= 0; /* Start from beginning */
  476.     /* If end of found-string not found or start-set with current set */
  477.     for (i= (uint) ~0; (i=get_next_bit(set,i)) ;)
  478.     {
  479.       if (!follow[i].chr)
  480.       {
  481. if (! default_state)
  482.   default_state= find_found(found_set,set->table_offset,
  483.     set->found_offset+1);
  484.       }
  485.     }
  486.     copy_bits(sets.set+used_sets,set); /* Save set for changes */
  487.     if (!default_state)
  488.       or_bits(sets.set+used_sets,sets.set); /* Can restart from start */
  489.     /* Find all chars that follows current sets */
  490.     bzero((char*) used_chars,sizeof(used_chars));
  491.     for (i= (uint) ~0; (i=get_next_bit(sets.set+used_sets,i)) ;)
  492.     {
  493.       used_chars[follow[i].chr]=1;
  494.       if ((follow[i].chr == SPACE_CHAR && !follow[i+1].chr &&
  495.    follow[i].len > 1) || follow[i].chr == END_OF_LINE)
  496. used_chars[0]=1;
  497.     }
  498.     /* Mark word_chars used if b is in state */
  499.     if (used_chars[SPACE_CHAR])
  500.       for (pos= word_end_chars ; *pos ; pos++)
  501. used_chars[(int) (uchar) *pos] = 1;
  502.     /* Handle other used characters */
  503.     for (chr= 0 ; chr < 256 ; chr++)
  504.     {
  505.       if (! used_chars[chr])
  506. set->next[chr]= chr ? default_state : -1;
  507.       else
  508.       {
  509. new_set=make_new_set(&sets);
  510. set=sets.set+set_nr; /* if realloc */
  511. new_set->table_offset=set->table_offset;
  512. new_set->found_len=set->found_len;
  513. new_set->found_offset=set->found_offset+1;
  514. found_end=0;
  515. for (i= (uint) ~0 ; (i=get_next_bit(sets.set+used_sets,i)) ; )
  516. {
  517.   if (!follow[i].chr || follow[i].chr == chr ||
  518.       (follow[i].chr == SPACE_CHAR &&
  519.        (is_word_end[chr] ||
  520. (!chr && follow[i].len > 1 && ! follow[i+1].chr))) ||
  521.       (follow[i].chr == END_OF_LINE && ! chr))
  522.   {
  523.     if ((! chr || (follow[i].chr && !follow[i+1].chr)) &&
  524. follow[i].len > found_end)
  525.       found_end=follow[i].len;
  526.     if (chr && follow[i].chr)
  527.       internal_set_bit(new_set,i+1); /* To next set */
  528.     else
  529.       internal_set_bit(new_set,i);
  530.   }
  531. }
  532. if (found_end)
  533. {
  534.   new_set->found_len=0; /* Set for testing if first */
  535.   bits_set=0;
  536.   for (i= (uint) ~0; (i=get_next_bit(new_set,i)) ;)
  537.   {
  538.     if ((follow[i].chr == SPACE_CHAR ||
  539.  follow[i].chr == END_OF_LINE) && ! chr)
  540.       bit_nr=i+1;
  541.     else
  542.       bit_nr=i;
  543.     if (follow[bit_nr-1].len < found_end ||
  544. (new_set->found_len &&
  545.  (chr == 0 || !follow[bit_nr].chr)))
  546.       internal_clear_bit(new_set,i);
  547.     else
  548.     {
  549.       if (chr == 0 || !follow[bit_nr].chr)
  550.       { /* best match  */
  551. new_set->table_offset=follow[bit_nr].table_offset;
  552. if (chr || (follow[i].chr == SPACE_CHAR ||
  553.     follow[i].chr == END_OF_LINE))
  554.   new_set->found_offset=found_end; /* New match */
  555. new_set->found_len=found_end;
  556.       }
  557.       bits_set++;
  558.     }
  559.   }
  560.   if (bits_set == 1)
  561.   {
  562.     set->next[chr] = find_found(found_set,
  563. new_set->table_offset,
  564. new_set->found_offset);
  565.     free_last_set(&sets);
  566.   }
  567.   else
  568.     set->next[chr] = find_set(&sets,new_set);
  569. }
  570. else
  571.   set->next[chr] = find_set(&sets,new_set);
  572.       }
  573.     }
  574.   }
  575. /* Alloc replace structure for the replace-state-machine */
  576.   if ((replace=(REPLACE*) my_malloc(sizeof(REPLACE)*(sets.count)+
  577.     sizeof(REPLACE_STRING)*(found_sets+1)+
  578.     sizeof(my_string)*count+result_len,
  579.     MYF(MY_WME | MY_ZEROFILL))))
  580.   {
  581.     rep_str=(REPLACE_STRING*) (replace+sets.count);
  582.     to_array=(my_string*) (rep_str+found_sets+1);
  583.     to_pos=(my_string) (to_array+count);
  584.     for (i=0 ; i < count ; i++)
  585.     {
  586.       to_array[i]=to_pos;
  587.       to_pos=strmov(to_pos,to[i])+1;
  588.     }
  589.     rep_str[0].found=1;
  590.     rep_str[0].replace_string=0;
  591.     for (i=1 ; i <= found_sets ; i++)
  592.     {
  593.       pos=from[found_set[i-1].table_offset];
  594.       rep_str[i].found= !bcmp(pos,"\^",3) ? 2 : 1;
  595.       rep_str[i].replace_string=to_array[found_set[i-1].table_offset];
  596.       rep_str[i].to_offset=found_set[i-1].found_offset-start_at_word(pos);
  597.       rep_str[i].from_offset=found_set[i-1].found_offset-replace_len(pos)+
  598. end_of_word(pos);
  599.     }
  600.     for (i=0 ; i < sets.count ; i++)
  601.     {
  602.       for (j=0 ; j < 256 ; j++)
  603. if (sets.set[i].next[j] >= 0)
  604.   replace[i].next[j]=replace+sets.set[i].next[j];
  605. else
  606.   replace[i].next[j]=(REPLACE*) (rep_str+(-sets.set[i].next[j]-1));
  607.     }
  608.   }
  609.   my_free((gptr) follow,MYF(0));
  610.   free_sets(&sets);
  611.   my_free((gptr) found_set,MYF(0));
  612.   DBUG_PRINT("exit",("Replace table has %d states",sets.count));
  613.   DBUG_RETURN(replace);
  614. }
  615. static int init_sets(REP_SETS *sets,uint states)
  616. {
  617.   bzero((char*) sets,sizeof(*sets));
  618.   sets->size_of_bits=((states+7)/8);
  619.   if (!(sets->set_buffer=(REP_SET*) my_malloc(sizeof(REP_SET)*SET_MALLOC_HUNC,
  620.       MYF(MY_WME))))
  621.     return 1;
  622.   if (!(sets->bit_buffer=(uint*) my_malloc(sizeof(uint)*sets->size_of_bits*
  623.    SET_MALLOC_HUNC,MYF(MY_WME))))
  624.   {
  625.     my_free((gptr) sets->set,MYF(0));
  626.     return 1;
  627.   }
  628.   return 0;
  629. }
  630. /* Make help sets invisible for nicer codeing */
  631. static void make_sets_invisible(REP_SETS *sets)
  632. {
  633.   sets->invisible=sets->count;
  634.   sets->set+=sets->count;
  635.   sets->count=0;
  636. }
  637. static REP_SET *make_new_set(REP_SETS *sets)
  638. {
  639.   uint i,count,*bit_buffer;
  640.   REP_SET *set;
  641.   if (sets->extra)
  642.   {
  643.     sets->extra--;
  644.     set=sets->set+ sets->count++;
  645.     bzero((char*) set->bits,sizeof(uint)*sets->size_of_bits);
  646.     bzero((char*) &set->next[0],sizeof(set->next[0])*LAST_CHAR_CODE);
  647.     set->found_offset=0;
  648.     set->found_len=0;
  649.     set->table_offset= (uint) ~0;
  650.     set->size_of_bits=sets->size_of_bits;
  651.     return set;
  652.   }
  653.   count=sets->count+sets->invisible+SET_MALLOC_HUNC;
  654.   if (!(set=(REP_SET*) my_realloc((gptr) sets->set_buffer,
  655.    sizeof(REP_SET)*count,
  656.   MYF(MY_WME))))
  657.     return 0;
  658.   sets->set_buffer=set;
  659.   sets->set=set+sets->invisible;
  660.   if (!(bit_buffer=(uint*) my_realloc((gptr) sets->bit_buffer,
  661.       (sizeof(uint)*sets->size_of_bits)*count,
  662.       MYF(MY_WME))))
  663.     return 0;
  664.   sets->bit_buffer=bit_buffer;
  665.   for (i=0 ; i < count ; i++)
  666.   {
  667.     sets->set_buffer[i].bits=bit_buffer;
  668.     bit_buffer+=sets->size_of_bits;
  669.   }
  670.   sets->extra=SET_MALLOC_HUNC;
  671.   return make_new_set(sets);
  672. }
  673. static void free_last_set(REP_SETS *sets)
  674. {
  675.   sets->count--;
  676.   sets->extra++;
  677.   return;
  678. }
  679. static void free_sets(REP_SETS *sets)
  680. {
  681.   my_free((gptr)sets->set_buffer,MYF(0));
  682.   my_free((gptr)sets->bit_buffer,MYF(0));
  683.   return;
  684. }
  685. static void internal_set_bit(REP_SET *set, uint bit)
  686. {
  687.   set->bits[bit / WORD_BIT] |= 1 << (bit % WORD_BIT);
  688.   return;
  689. }
  690. static void internal_clear_bit(REP_SET *set, uint bit)
  691. {
  692.   set->bits[bit / WORD_BIT] &= ~ (1 << (bit % WORD_BIT));
  693.   return;
  694. }
  695. static void or_bits(REP_SET *to,REP_SET *from)
  696. {
  697.   reg1 uint i;
  698.   for (i=0 ; i < to->size_of_bits ; i++)
  699.     to->bits[i]|=from->bits[i];
  700.   return;
  701. }
  702. static void copy_bits(REP_SET *to,REP_SET *from)
  703. {
  704.   memcpy((byte*) to->bits,(byte*) from->bits,
  705.  (size_t) (sizeof(uint) * to->size_of_bits));
  706. }
  707. static int cmp_bits(REP_SET *set1,REP_SET *set2)
  708. {
  709.   return bcmp((byte*) set1->bits,(byte*) set2->bits,
  710.       sizeof(uint) * set1->size_of_bits);
  711. }
  712. /* Get next set bit from set. */
  713. static int get_next_bit(REP_SET *set,uint lastpos)
  714. {
  715.   uint pos,*start,*end,bits;
  716.   start=set->bits+ ((lastpos+1) / WORD_BIT);
  717.   end=set->bits + set->size_of_bits;
  718.   bits=start[0] & ~((1 << ((lastpos+1) % WORD_BIT)) -1);
  719.   while (! bits && ++start < end)
  720.     bits=start[0];
  721.   if (!bits)
  722.     return 0;
  723.   pos=(uint) (start-set->bits)*WORD_BIT;
  724.   while (! (bits & 1))
  725.   {
  726.     bits>>=1;
  727.     pos++;
  728.   }
  729.   return pos;
  730. }
  731. /* find if there is a same set in sets. If there is, use it and
  732.    free given set, else put in given set in sets and return it's
  733.    position */
  734. static int find_set(REP_SETS *sets,REP_SET *find)
  735. {
  736.   uint i;
  737.   for (i=0 ; i < sets->count-1 ; i++)
  738.   {
  739.     if (!cmp_bits(sets->set+i,find))
  740.     {
  741.       free_last_set(sets);
  742.       return i;
  743.     }
  744.   }
  745.   return i; /* return new postion */
  746. }
  747. /* find if there is a found_set with same table_offset & found_offset
  748.    If there is return offset to it, else add new offset and return pos.
  749.    Pos returned is -offset-2 in found_set_structure because it's is
  750.    saved in set->next and set->next[] >= 0 points to next set and
  751.    set->next[] == -1 is reserved for end without replaces.
  752.    */
  753. static int find_found(FOUND_SET *found_set,uint table_offset, int found_offset)
  754. {
  755.   int i;
  756.   for (i=0 ; (uint) i < found_sets ; i++)
  757.     if (found_set[i].table_offset == table_offset &&
  758. found_set[i].found_offset == found_offset)
  759.       return -i-2;
  760.   found_set[i].table_offset=table_offset;
  761.   found_set[i].found_offset=found_offset;
  762.   found_sets++;
  763.   return -i-2; /* return new postion */
  764. }
  765. /* Return 1 if regexp starts with b or ends with b*/
  766. static uint start_at_word(my_string pos)
  767. {
  768.   return (((!bcmp(pos,"\b",2) && pos[2]) || !bcmp(pos,"\^",2)) ? 1 : 0);
  769. }
  770. static uint end_of_word(my_string pos)
  771. {
  772.   my_string end=strend(pos);
  773.   return ((end > pos+2 && !bcmp(end-2,"\b",2)) ||
  774.   (end >= pos+2 && !bcmp(end-2,"\$",2))) ?
  775.     1 : 0;
  776. }
  777. static uint replace_len(my_string str)
  778. {
  779.   uint len=0;
  780.   while (*str)
  781.   {
  782.     if (str[0] == '\' && str[1])
  783.       str++;
  784.     str++;
  785.     len++;
  786.   }
  787.   return len;
  788. }
  789. /* The actual loop */
  790. uint replace_strings(REPLACE *rep, my_string *start,uint *max_length, my_string from)
  791. {
  792.   reg1 REPLACE *rep_pos;
  793.   reg2 REPLACE_STRING *rep_str;
  794.   my_string to,end,pos,new;
  795.   end=(to= *start) + *max_length-1;
  796.   rep_pos=rep+1;
  797.   for(;;)
  798.   {
  799.     while (!rep_pos->found)
  800.     {
  801.       rep_pos= rep_pos->next[(uchar) *from];
  802.       if (to == end)
  803.       {
  804. (*max_length)+=8192;
  805. if (!(new=my_realloc(*start,*max_length,MYF(MY_WME))))
  806.   return (uint) -1;
  807. to=new+(to - *start);
  808. end=(*start=new)+ *max_length-1;
  809.       }
  810.       *to++= *from++;
  811.     }
  812.     if (!(rep_str = ((REPLACE_STRING*) rep_pos))->replace_string)
  813.       return (uint) (to - *start)-1;
  814.     updated=1; /* Some my_string is replaced */
  815.     to-=rep_str->to_offset;
  816.     for (pos=rep_str->replace_string; *pos ; pos++)
  817.     {
  818.       if (to == end)
  819.       {
  820. (*max_length)*=2;
  821. if (!(new=my_realloc(*start,*max_length,MYF(MY_WME))))
  822.   return (uint) -1;
  823. to=new+(to - *start);
  824. end=(*start=new)+ *max_length-1;
  825.       }
  826.       *to++= *pos;
  827.     }
  828.     if (!*(from-=rep_str->from_offset) && rep_pos->found != 2)
  829.       return (uint) (to - *start);
  830.     rep_pos=rep;
  831.   }
  832. }
  833. static char *buffer; /* The buffer itself, grown as needed. */
  834. static int bufbytes; /* Number of bytes in the buffer. */
  835. static int bufread,my_eof; /* Number of bytes to get with each read(). */
  836. static uint bufalloc;
  837. static char *out_buff;
  838. static uint out_length;
  839. static int initialize_buffer()
  840. {
  841.   bufread = 8192;
  842.   bufalloc = bufread + bufread / 2;
  843.   if (!(buffer = my_malloc(bufalloc+1,MYF(MY_WME))))
  844.     return 1;
  845.   bufbytes=my_eof=0;
  846.   out_length=bufread;
  847.   if (!(out_buff=my_malloc(out_length,MYF(MY_WME))))
  848.     return(1);
  849.   return 0;
  850. }
  851. static void reset_buffer()
  852. {
  853.   bufbytes=my_eof=0;
  854. }
  855. static void free_buffer()
  856. {
  857.   my_free(buffer,MYF(MY_WME));
  858.   my_free(out_buff,MYF(MY_WME));
  859. }
  860. /*
  861.   Fill the buffer retaining the last n bytes at the beginning of the
  862.   newly filled buffer (for backward context).  Returns the number of new
  863.   bytes read from disk.
  864. */
  865. static int fill_buffer_retaining(fd,n)
  866. File fd;
  867. int n;
  868. {
  869.   int i;
  870.   /* See if we need to grow the buffer. */
  871.   if ((int) bufalloc - n <= bufread)
  872.   {
  873.     while ((int) bufalloc - n <= bufread)
  874.     {
  875.       bufalloc *= 2;
  876.       bufread *= 2;
  877.     }
  878.     buffer = my_realloc(buffer, bufalloc+1, MYF(MY_WME));
  879.     if (! buffer)
  880.       return(-1);
  881.   }
  882.   /* Shift stuff down. */
  883.   bmove(buffer,buffer+bufbytes-n,(uint) n);
  884.   bufbytes = n;
  885.   if (my_eof)
  886.     return 0;
  887.   /* Read in new stuff. */
  888.   if ((i=(int) my_read(fd, buffer + bufbytes, (uint) bufread,MYF(MY_WME))) < 0)
  889.     return -1;
  890.   /* Kludge to pretend every nonempty file ends with a newline. */
  891.   if (i == 0 && bufbytes > 0 && buffer[bufbytes - 1] != 'n')
  892.   {
  893.     my_eof = i = 1;
  894.     buffer[bufbytes] = 'n';
  895.   }
  896.   bufbytes += i;
  897.   return i;
  898. }
  899. /* Return 0 if convert is ok */
  900. /* Global variable update is set if something was changed */
  901. static int convert_pipe(rep,in,out)
  902. REPLACE *rep;
  903. FILE *in,*out;
  904. {
  905.   int retain,error;
  906.   uint length;
  907.   char save_char,*end_of_line,*start_of_line;
  908.   DBUG_ENTER("convert_pipe");
  909.   updated=retain=0;
  910.   reset_buffer();
  911.   while ((error=fill_buffer_retaining(fileno(in),retain)) > 0)
  912.   {
  913.     end_of_line=buffer ;
  914.     buffer[bufbytes]=0; /* Sentinel  */
  915.     for (;;)
  916.     {
  917.       start_of_line=end_of_line;
  918.       while (end_of_line[0] != 'n' && end_of_line[0])
  919. end_of_line++;
  920.       if (end_of_line == buffer+bufbytes)
  921.       {
  922. retain= (int) (end_of_line - start_of_line);
  923. break; /* No end of line, read more */
  924.       }
  925.       save_char=end_of_line[0];
  926.       end_of_line[0]=0;
  927.       end_of_line++;
  928.       if ((length=replace_strings(rep,&out_buff,&out_length,start_of_line)) ==
  929.   (uint) -1)
  930. return 1;
  931.       if (!my_eof)
  932. out_buff[length++]=save_char; /* Don't write added newline */
  933.       if (my_fwrite(out,out_buff,length,MYF(MY_WME | MY_NABP)))
  934. DBUG_RETURN(1);
  935.     }
  936.   }
  937.   DBUG_RETURN(error);
  938. }
  939. static int convert_file(rep,name)
  940. REPLACE *rep;
  941. my_string name;
  942. {
  943.   int error;
  944.   FILE *in,*out;
  945.   char dir_buff[FN_REFLEN],*tempname;
  946.   DBUG_ENTER("convert_file");
  947.   if (!(in=my_fopen(name,O_RDONLY,MYF(MY_WME))))
  948.     DBUG_RETURN(1);
  949.   dirname_part(dir_buff,name);
  950.   tempname=my_tempnam(dir_buff,"PR",MYF(MY_WME));
  951.   if (!(out=my_fopen(tempname,(int) (O_WRONLY | O_CREAT),
  952.      MYF(MY_WME))))
  953.   {
  954.     (*free)(tempname);
  955.     my_fclose(in,MYF(0));
  956.     DBUG_RETURN(1);
  957.   }
  958.   error=convert_pipe(rep,in,out);
  959.   my_fclose(in,MYF(0)); my_fclose(out,MYF(0));
  960.   if (updated && ! error)
  961.     my_redel(name,tempname,MYF(MY_WME | MY_LINK_WARNING));
  962.   else
  963.     my_delete(tempname,MYF(MY_WME));
  964.   (*free)(tempname);
  965.   if (!silent && ! error)
  966.   {
  967.     if (updated)
  968.       printf("%s convertedn",name);
  969.     else if (verbose)
  970.       printf("%s left unchangedn",name);
  971.   }
  972.   DBUG_RETURN(error);
  973. }