ATokenBuffer.h
上传用户:itx_2006
上传日期:2007-01-06
资源大小:493k
文件大小:4k
源码类别:

编译器/解释器

开发平台:

Others

  1. /* ANTLRTokenBuffer.h
  2.  *
  3.  * SOFTWARE RIGHTS
  4.  *
  5.  * We reserve no LEGAL rights to the Purdue Compiler Construction Tool
  6.  * Set (PCCTS) -- PCCTS is in the public domain.  An individual or
  7.  * company may do whatever they wish with source code distributed with
  8.  * PCCTS or the code generated by PCCTS, including the incorporation of
  9.  * PCCTS, or its output, into commerical software.
  10.  *
  11.  * We encourage users to develop software with PCCTS.  However, we do ask
  12.  * that credit is given to us for developing PCCTS.  By "credit",
  13.  * we mean that if you incorporate our source code into one of your
  14.  * programs (commercial product, research project, or otherwise) that you
  15.  * acknowledge this fact somewhere in the documentation, research report,
  16.  * etc...  If you like PCCTS and have developed a nice tool with the
  17.  * output, please mention that you developed it using PCCTS.  In
  18.  * addition, we ask that this header remain intact in our source code.
  19.  * As long as these guidelines are kept, we expect to continue enhancing
  20.  * this system and expect to make other tools available as they are
  21.  * completed.
  22.  *
  23.  * ANTLR 1.33
  24.  * Terence Parr
  25.  * Parr Research Corporation
  26.  * with Purdue University and AHPCRC, University of Minnesota
  27.  * 1989-1998
  28.  */
  29. #ifndef ATOKENBUFFER_H_GATE
  30. #define ATOKENBUFFER_H_GATE
  31. #include "pcctscfg.h"
  32. #include PCCTS_STDLIB_H
  33. PCCTS_NAMESPACE_STD
  34. #include ATOKEN_H
  35. #include ATOKENSTREAM_H
  36. /*
  37.  * The parser is "attached" to an ANTLRTokenBuffer via interface
  38.  * functions: getToken() and bufferedToken().  The object that actually
  39.  * consumes characters and constructs tokens is connected to the
  40.  * ANTLRTokenBuffer via interface function ANTLRTokenStream::getToken();
  41.  * where ANTLRTokenStream is really just a behavior (class with no data).
  42.  * C++ does not have this abstraction and hence we simply have come up
  43.  * with a fancy name for "void *".  See the note in ANTLRTokenStream.h on
  44.  * the "behavior" of ANTLRTokenStream.
  45.  */
  46. class ANTLRParser; // MR1
  47. class DllExportPCCTS ANTLRTokenBuffer {
  48. protected:
  49. ANTLRTokenStream *input;        // where do I get tokens
  50. int buffer_size;
  51. int chunk_size;
  52. int num_markers;
  53. int k;                          // Need at least this many tokens in buffer
  54. _ANTLRTokenPtr *buffer; // buffer used for arbitrary lookahead
  55. _ANTLRTokenPtr *tp;        // pts into buffer; current token ptr
  56. _ANTLRTokenPtr *last;      // pts to last valid token in buffer
  57. _ANTLRTokenPtr *next;      // place to put token from getANTLRToken()
  58. _ANTLRTokenPtr *end_of_buffer;
  59. /* when you try to write a token past this and there are no markers
  60.    set, then move k-1 tokens back to the beginning of the buffer.
  61.    We want to stay away from the end of the buffer because we have
  62.    to extend it if a marker is set and we reach the end (we cannot
  63.    move tokens to the beginning of the buffer in this case).
  64.  */
  65. _ANTLRTokenPtr *threshold;
  66. unsigned char _deleteTokens;
  67. // This function is filled in by the subclass; it initiates fetch of input
  68. virtual _ANTLRTokenPtr getANTLRToken() { return input->getToken(); }
  69. void makeRoom();
  70. void extendBuffer();
  71. public:
  72. ANTLRTokenBuffer(ANTLRTokenStream *in, int k=1, int chksz=50);
  73. virtual ~ANTLRTokenBuffer();
  74. virtual _ANTLRTokenPtr getToken();
  75. virtual void rewind(int pos);
  76. virtual int mark();
  77. virtual _ANTLRTokenPtr bufferedToken(int i);
  78. void noGarbageCollectTokens() { _deleteTokens=0; }
  79. void garbageCollectTokens() { _deleteTokens=1; }
  80. virtual bufferSize() { return buffer_size; }
  81. virtual int minTokens() { return k; }
  82. virtual void setMinTokens(int k_new) { k = k_new; }
  83. virtual void panic(char *msg) { exit(PCCTS_EXIT_FAILURE); }
  84. protected: // MR1
  85. ANTLRParser *parser; // MR1
  86. public: // MR1
  87. ANTLRParser *setParser(ANTLRParser *p); // MR1
  88. ANTLRParser *getParser();     // MR1
  89.     ANTLRTokenStream *getLexer() const {    // MR12
  90.       return input;}                        // MR12
  91. };
  92. #endif