FieldsWriter.cs
上传用户:zhangkuixh
上传日期:2013-09-30
资源大小:5473k
文件大小:6k
源码类别:

搜索引擎

开发平台:

C#

  1. /*
  2.  * Copyright 2004 The Apache Software Foundation
  3.  * 
  4.  * Licensed under the Apache License, Version 2.0 (the "License");
  5.  * you may not use this file except in compliance with the License.
  6.  * You may obtain a copy of the License at
  7.  * 
  8.  * http://www.apache.org/licenses/LICENSE-2.0
  9.  * 
  10.  * Unless required by applicable law or agreed to in writing, software
  11.  * distributed under the License is distributed on an "AS IS" BASIS,
  12.  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13.  * See the License for the specific language governing permissions and
  14.  * limitations under the License.
  15.  */
  16. using System;
  17. using Document = Lucene.Net.Documents.Document;
  18. using Field = Lucene.Net.Documents.Field;
  19. using Directory = Lucene.Net.Store.Directory;
  20. using IndexOutput = Lucene.Net.Store.IndexOutput;
  21. namespace Lucene.Net.Index
  22. {
  23. sealed class FieldsWriter
  24. {
  25. internal const byte FIELD_IS_TOKENIZED = (byte) (0x1);
  26. internal const byte FIELD_IS_BINARY = (byte) (0x2);
  27. internal const byte FIELD_IS_COMPRESSED = (byte) (0x4);
  28. private FieldInfos fieldInfos;
  29. private IndexOutput fieldsStream;
  30. private IndexOutput indexStream;
  31. internal FieldsWriter(Directory d, System.String segment, FieldInfos fn)
  32. {
  33. fieldInfos = fn;
  34. fieldsStream = d.CreateOutput(segment + ".fdt");
  35. indexStream = d.CreateOutput(segment + ".fdx");
  36. }
  37. internal void  Close()
  38. {
  39. fieldsStream.Close();
  40. indexStream.Close();
  41. }
  42. internal void  AddDocument(Document doc)
  43. {
  44. indexStream.WriteLong(fieldsStream.GetFilePointer());
  45. int storedCount = 0;
  46. System.Collections.IEnumerator fields = doc.Fields();
  47. while (fields.MoveNext())
  48. {
  49. Field field = (Field) fields.Current;
  50. if (field.IsStored())
  51. storedCount++;
  52. }
  53. fieldsStream.WriteVInt(storedCount);
  54. fields = doc.Fields();
  55. while (fields.MoveNext())
  56. {
  57. Field field = (Field) fields.Current;
  58. if (field.IsStored())
  59. {
  60. fieldsStream.WriteVInt(fieldInfos.FieldNumber(field.Name()));
  61. byte bits = 0;
  62. if (field.IsTokenized())
  63. bits |= FieldsWriter.FIELD_IS_TOKENIZED;
  64. if (field.IsBinary())
  65. bits |= FieldsWriter.FIELD_IS_BINARY;
  66. if (field.IsCompressed())
  67. bits |= FieldsWriter.FIELD_IS_COMPRESSED;
  68. fieldsStream.WriteByte(bits);
  69. if (field.IsCompressed())
  70. {
  71. // compression is enabled for the current field
  72. byte[] data = null;
  73. // check if it is a binary field
  74. if (field.IsBinary())
  75. {
  76. data = Compress(field.BinaryValue());
  77. }
  78. else
  79. {
  80. data = Compress(System.Text.Encoding.GetEncoding("UTF-8").GetBytes(field.StringValue()));
  81. }
  82. int len = data.Length;
  83. fieldsStream.WriteVInt(len);
  84. fieldsStream.WriteBytes(data, len);
  85. }
  86. else
  87. {
  88. // compression is disabled for the current field
  89. if (field.IsBinary())
  90. {
  91. byte[] data = field.BinaryValue();
  92. int len = data.Length;
  93. fieldsStream.WriteVInt(len);
  94. fieldsStream.WriteBytes(data, len);
  95. }
  96. else
  97. {
  98. fieldsStream.WriteString(field.StringValue());
  99. }
  100. }
  101. }
  102. }
  103. }
  104. private byte[] Compress(byte[] input)
  105. {
  106.             // {{Aroush-1.9}} for .NET 1.1, we can use reflection and ZLib?
  107.             return input;
  108. /*
  109. // Create the compressor with highest level of compression
  110. //UPGRADE_ISSUE: Class 'java.util.zip.Deflater' was not converted. "ms-help://MS.VSCC.v80/dv_commoner/local/redirect.htm?index='!DefaultContextWindowIndex'&keyword='jlca1000_javautilzipDeflater'"
  111. //UPGRADE_ISSUE: Constructor 'java.util.zip.Deflater.Deflater' was not converted. "ms-help://MS.VSCC.v80/dv_commoner/local/redirect.htm?index='!DefaultContextWindowIndex'&keyword='jlca1000_javautilzipDeflater'"
  112. Deflater compressor = new Deflater();
  113. //UPGRADE_ISSUE: Method 'java.util.zip.Deflater.setLevel' was not converted. "ms-help://MS.VSCC.v80/dv_commoner/local/redirect.htm?index='!DefaultContextWindowIndex'&keyword='jlca1000_javautilzipDeflater'"
  114. //UPGRADE_ISSUE: Field 'java.util.zip.Deflater.BEST_COMPRESSION' was not converted. "ms-help://MS.VSCC.v80/dv_commoner/local/redirect.htm?index='!DefaultContextWindowIndex'&keyword='jlca1000_javautilzipDeflater'"
  115. compressor.setLevel(Deflater.BEST_COMPRESSION);
  116. // Give the compressor the data to compress
  117. //UPGRADE_ISSUE: Method 'java.util.zip.Deflater.setInput' was not converted. "ms-help://MS.VSCC.v80/dv_commoner/local/redirect.htm?index='!DefaultContextWindowIndex'&keyword='jlca1000_javautilzipDeflater'"
  118. compressor.setInput(input);
  119. //UPGRADE_ISSUE: Method 'java.util.zip.Deflater.finish' was not converted. "ms-help://MS.VSCC.v80/dv_commoner/local/redirect.htm?index='!DefaultContextWindowIndex'&keyword='jlca1000_javautilzipDeflater'"
  120. compressor.finish();
  121. / *
  122. * Create an expandable byte array to hold the compressed data.
  123. * You cannot use an array that's the same size as the orginal because
  124. * there is no guarantee that the compressed data will be smaller than
  125. * the uncompressed data.
  126. * /
  127. System.IO.MemoryStream bos = new System.IO.MemoryStream(input.Length);
  128. // Compress the data
  129. byte[] buf = new byte[1024];
  130. //UPGRADE_ISSUE: Method 'java.util.zip.Deflater.finished' was not converted. "ms-help://MS.VSCC.v80/dv_commoner/local/redirect.htm?index='!DefaultContextWindowIndex'&keyword='jlca1000_javautilzipDeflater'"
  131. while (!compressor.finished())
  132. {
  133. //UPGRADE_ISSUE: Method 'java.util.zip.Deflater.deflate' was not converted. "ms-help://MS.VSCC.v80/dv_commoner/local/redirect.htm?index='!DefaultContextWindowIndex'&keyword='jlca1000_javautilzipDeflater'"
  134. int count = compressor.deflate(buf);
  135. bos.Write(SupportClass.ToByteArray(buf), 0, count);
  136. }
  137. //UPGRADE_ISSUE: Method 'java.util.zip.Deflater.end' was not converted. "ms-help://MS.VSCC.v80/dv_commoner/local/redirect.htm?index='!DefaultContextWindowIndex'&keyword='jlca1000_javautilzipDeflater'"
  138. compressor.end();
  139. // Get the compressed data
  140. return SupportClass.ToSByteArray(bos.ToArray());
  141.             */
  142. }
  143. }
  144. }