fil0fil.c
上传用户:tsgydb
上传日期:2007-04-14
资源大小:10674k
文件大小:33k
源码类别:

MySQL数据库

开发平台:

Visual C++

  1. /******************************************************
  2. The low-level file system
  3. (c) 1995 Innobase Oy
  4. Created 10/25/1995 Heikki Tuuri
  5. *******************************************************/
  6. #include "fil0fil.h"
  7. #include "mem0mem.h"
  8. #include "sync0sync.h"
  9. #include "hash0hash.h"
  10. #include "os0file.h"
  11. #include "os0sync.h"
  12. #include "mach0data.h"
  13. #include "ibuf0ibuf.h"
  14. #include "buf0buf.h"
  15. #include "log0log.h"
  16. #include "log0recv.h"
  17. #include "fsp0fsp.h"
  18. /*
  19. IMPLEMENTATION OF THE LOW-LEVEL FILE SYSTEM
  20. ===========================================
  21. The file system is responsible for providing fast read/write access to
  22. tablespaces and logs of the database. File creation and deletion is done
  23. in other modules which know more of the logic of the operation, however.
  24. A tablespace consists of a chain of files. The size of the files does not
  25. have to be divisible by the database block size, because we may just leave
  26. the last incomplete block unused. When a new file is appended to the
  27. tablespace, the maximum size of the file is also specified. At the moment,
  28. we think that it is best to extend the file to its maximum size already at
  29. the creation of the file, because then we can avoid dynamically extending
  30. the file when more space is needed for the tablespace.
  31. A block's position in the tablespace is specified with a 32-bit unsigned
  32. integer. The files in the chain are thought to be catenated, and the block
  33. corresponding to an address n is the nth block in the catenated file (where
  34. the first block is named the 0th block, and the incomplete block fragments
  35. at the end of files are not taken into account). A tablespace can be extended
  36. by appending a new file at the end of the chain.
  37. Our tablespace concept is similar to the one of Oracle.
  38. To acquire more speed in disk transfers, a technique called disk striping is
  39. sometimes used. This means that logical block addresses are divided in a
  40. round-robin fashion across several disks. Windows NT supports disk striping,
  41. so there we do not need to support it in the database. Disk striping is
  42. implemented in hardware in RAID disks. We conclude that it is not necessary
  43. to implement it in the database. Oracle 7 does not support disk striping,
  44. either.
  45. Another trick used at some database sites is replacing tablespace files by
  46. raw disks, that is, the whole physical disk drive, or a partition of it, is
  47. opened as a single file, and it is accessed through byte offsets calculated
  48. from the start of the disk or the partition. This is recommended in some
  49. books on database tuning to achieve more speed in i/o. Using raw disk
  50. certainly prevents the OS from fragmenting disk space, but it is not clear
  51. if it really adds speed. We measured on the Pentium 100 MHz + NT + NTFS file
  52. system + EIDE Conner disk only a negligible difference in speed when reading
  53. from a file, versus reading from a raw disk. 
  54. To have fast access to a tablespace or a log file, we put the data structures
  55. to a hash table. Each tablespace and log file is given an unique 32-bit
  56. identifier.
  57. Some operating systems do not support many open files at the same time,
  58. though NT seems to tolerate at least 900 open files. Therefore, we put the
  59. open files in an LRU-list. If we need to open another file, we may close the
  60. file at the end of the LRU-list. When an i/o-operation is pending on a file,
  61. the file cannot be closed. We take the file nodes with pending i/o-operations
  62. out of the LRU-list and keep a count of pending operations. When an operation
  63. completes, we decrement the count and return the file node to the LRU-list if
  64. the count drops to zero. */
  65. /* Null file address */
  66. fil_addr_t fil_addr_null = {FIL_NULL, 0};
  67. /* File system file node data structure */
  68. typedef struct fil_node_struct fil_node_t;
  69. struct fil_node_struct {
  70. char* name; /* the file name or path */
  71. ibool open; /* TRUE if file open */
  72. os_file_t handle; /* OS handle to the file, if file open */
  73. ulint size; /* size of the file in database blocks
  74. (where the possible last incomplete block
  75. is ignored) */
  76. ulint n_pending;
  77. /* count of pending i/o-ops on this file */
  78. UT_LIST_NODE_T(fil_node_t) chain;
  79. /* link field for the file chain */
  80. UT_LIST_NODE_T(fil_node_t) LRU;
  81. /* link field for the LRU list */
  82. ulint magic_n;
  83. };
  84. #define FIL_NODE_MAGIC_N 89389
  85. /* File system tablespace or log data structure: let us call them by a common
  86. name space */
  87. struct fil_space_struct {
  88. char* name; /* space name */
  89. ulint id; /* space id */
  90. ulint purpose;/* FIL_TABLESPACE, FIL_LOG, or FIL_ARCH_LOG */
  91. UT_LIST_BASE_NODE_T(fil_node_t) chain;
  92. /* base node for the file chain */
  93. ulint size; /* space size in pages */
  94. ulint n_reserved_extents;
  95. /* number of reserved free extents for
  96. ongoing operations like B-tree page split */
  97. hash_node_t hash;  /* hash chain node */
  98. rw_lock_t latch; /* latch protecting the file space storage
  99. allocation */
  100. UT_LIST_NODE_T(fil_space_t) space_list;
  101. /* list of all spaces */
  102. ibuf_data_t* ibuf_data;
  103. /* insert buffer data */
  104. ulint magic_n;
  105. };
  106. #define FIL_SPACE_MAGIC_N 89472
  107. /* The file system data structure */
  108. typedef struct fil_system_struct fil_system_t;
  109. struct fil_system_struct {
  110. mutex_t mutex; /* The mutex protecting the system */
  111. hash_table_t* spaces; /* The hash table of spaces in the
  112. system */
  113. UT_LIST_BASE_NODE_T(fil_node_t) LRU;
  114. /* base node for the LRU list of the
  115. most recently used open files */
  116. ulint n_open_pending; /* current number of open files with
  117. pending i/o-ops on them */
  118. ulint max_n_open; /* maximum allowed open files */
  119. os_event_t can_open; /* this event is set to the signaled
  120. state when the system is capable of
  121. opening a new file, i.e.,
  122. n_open_pending < max_n_open */
  123. UT_LIST_BASE_NODE_T(fil_space_t) space_list;
  124. /* list of all file spaces */
  125. };
  126. /* The file system. This variable is NULL before the module is initialized. */
  127. fil_system_t* fil_system = NULL;
  128. /* The file system hash table size */
  129. #define FIL_SYSTEM_HASH_SIZE 500
  130. /***********************************************************************
  131. Reserves a right to open a single file. The right must be released with
  132. fil_release_right_to_open. */
  133. void
  134. fil_reserve_right_to_open(void)
  135. /*===========================*/
  136. {
  137. loop:
  138. mutex_enter(&(fil_system->mutex));
  139. if (fil_system->n_open_pending == fil_system->max_n_open) {
  140. /* It is not sure we can open the file if it is closed: wait */
  141. os_event_reset(fil_system->can_open);
  142. mutex_exit(&(fil_system->mutex));
  143. os_event_wait(fil_system->can_open);
  144. goto loop;
  145. }
  146. fil_system->max_n_open--;
  147. mutex_exit(&(fil_system->mutex));
  148. }
  149. /***********************************************************************
  150. Releases a right to open a single file. */
  151. void
  152. fil_release_right_to_open(void)
  153. /*===========================*/
  154. {
  155. mutex_enter(&(fil_system->mutex));
  156. if (fil_system->n_open_pending == fil_system->max_n_open) {
  157. os_event_set(fil_system->can_open);
  158. }
  159. fil_system->max_n_open++;
  160. mutex_exit(&(fil_system->mutex));
  161. }
  162. /***********************************************************************
  163. Returns the latch of a file space. */
  164. rw_lock_t*
  165. fil_space_get_latch(
  166. /*================*/
  167. /* out: latch protecting storage allocation */
  168. ulint id) /* in: space id */
  169. {
  170. fil_space_t* space;
  171. fil_system_t* system = fil_system;
  172. ut_ad(system);
  173. mutex_enter(&(system->mutex));
  174. HASH_SEARCH(hash, system->spaces, id, space, space->id == id);
  175. mutex_exit(&(system->mutex));
  176. return(&(space->latch));
  177. }
  178. /***********************************************************************
  179. Returns the type of a file space. */
  180. ulint
  181. fil_space_get_type(
  182. /*===============*/
  183. /* out: FIL_TABLESPACE or FIL_LOG */
  184. ulint id) /* in: space id */
  185. {
  186. fil_space_t* space;
  187. fil_system_t* system = fil_system;
  188. ut_ad(system);
  189. mutex_enter(&(system->mutex));
  190. HASH_SEARCH(hash, system->spaces, id, space, space->id == id);
  191. mutex_exit(&(system->mutex));
  192. return(space->purpose);
  193. }
  194. /***********************************************************************
  195. Returns the ibuf data of a file space. */
  196. ibuf_data_t*
  197. fil_space_get_ibuf_data(
  198. /*====================*/
  199. /* out: ibuf data for this space */
  200. ulint id) /* in: space id */
  201. {
  202. fil_space_t* space;
  203. fil_system_t* system = fil_system;
  204. ut_ad(system);
  205. mutex_enter(&(system->mutex));
  206. HASH_SEARCH(hash, system->spaces, id, space, space->id == id);
  207. mutex_exit(&(system->mutex));
  208. return(space->ibuf_data);
  209. }
  210. /***********************************************************************
  211. Appends a new file to the chain of files of a space. File must be closed. */
  212. void
  213. fil_node_create(
  214. /*============*/
  215. char* name, /* in: file name (file must be closed) */
  216. ulint size, /* in: file size in database blocks, rounded downwards
  217. to an integer */
  218. ulint id) /* in: space id where to append */
  219. {
  220. fil_node_t* node;
  221. fil_space_t* space;
  222. char* name2;
  223. fil_system_t* system = fil_system;
  224. ut_a(system);
  225. ut_a(name);
  226. ut_a(size > 0);
  227. mutex_enter(&(system->mutex));
  228. node = mem_alloc(sizeof(fil_node_t));
  229. name2 = mem_alloc(ut_strlen(name) + 1);
  230. ut_strcpy(name2, name);
  231. node->name = name2;
  232. node->open = FALSE;
  233. node->size = size;
  234. node->magic_n = FIL_NODE_MAGIC_N;
  235. node->n_pending = 0;
  236. HASH_SEARCH(hash, system->spaces, id, space, space->id == id);
  237. space->size += size;
  238. UT_LIST_ADD_LAST(chain, space->chain, node);
  239. mutex_exit(&(system->mutex));
  240. }
  241. /**************************************************************************
  242. Closes a file. */
  243. static
  244. void
  245. fil_node_close(
  246. /*===========*/
  247. fil_node_t* node, /* in: file node */
  248. fil_system_t* system) /* in: file system */
  249. {
  250. ibool ret;
  251. ut_ad(node && system);
  252. ut_ad(mutex_own(&(system->mutex)));
  253. ut_a(node->open);
  254. ut_a(node->n_pending == 0);
  255. ret = os_file_close(node->handle);
  256. ut_a(ret);
  257. node->open = FALSE;
  258. /* The node is in the LRU list, remove it */
  259. UT_LIST_REMOVE(LRU, system->LRU, node);
  260. }
  261. /***********************************************************************
  262. Frees a file node object from a file system. */
  263. static
  264. void
  265. fil_node_free(
  266. /*==========*/
  267. fil_node_t* node, /* in, own: file node */
  268. fil_system_t* system, /* in: file system */
  269. fil_space_t* space) /* in: space where the file node is chained */
  270. {
  271. ut_ad(node && system && space);
  272. ut_ad(mutex_own(&(system->mutex)));
  273. ut_a(node->magic_n == FIL_NODE_MAGIC_N);
  274. if (node->open) {
  275. fil_node_close(node, system);
  276. }
  277. space->size -= node->size;
  278. UT_LIST_REMOVE(chain, space->chain, node);
  279. mem_free(node->name);
  280. mem_free(node);
  281. }
  282. /********************************************************************
  283. Drops files from the start of a file space, so that its size is cut by
  284. the amount given. */
  285. void
  286. fil_space_truncate_start(
  287. /*=====================*/
  288. ulint id, /* in: space id */
  289. ulint trunc_len) /* in: truncate by this much; it is an error
  290. if this does not equal to the combined size of
  291. some initial files in the space */
  292. {
  293. fil_node_t* node;
  294. fil_space_t* space;
  295. fil_system_t* system = fil_system;
  296. mutex_enter(&(system->mutex));
  297. HASH_SEARCH(hash, system->spaces, id, space, space->id == id);
  298. ut_a(space);
  299. while (trunc_len > 0) {
  300. node = UT_LIST_GET_FIRST(space->chain);
  301. ut_a(node->size * UNIV_PAGE_SIZE >= trunc_len);
  302. trunc_len -= node->size * UNIV_PAGE_SIZE;
  303. fil_node_free(node, system, space);
  304. }
  305. mutex_exit(&(system->mutex));
  306. }
  307. /********************************************************************
  308. Creates a file system object. */
  309. static
  310. fil_system_t*
  311. fil_system_create(
  312. /*==============*/
  313. /* out, own: file system object */
  314. ulint hash_size, /* in: hash table size */
  315. ulint max_n_open) /* in: maximum number of open files */
  316. {
  317. fil_system_t* system;
  318. ut_a(hash_size > 0);
  319. ut_a(max_n_open > 0);
  320. system = mem_alloc(sizeof(fil_system_t));
  321. mutex_create(&(system->mutex));
  322. mutex_set_level(&(system->mutex), SYNC_ANY_LATCH);
  323. system->spaces = hash_create(hash_size);
  324. UT_LIST_INIT(system->LRU);
  325. system->n_open_pending = 0;
  326. system->max_n_open = max_n_open;
  327. system->can_open = os_event_create(NULL);
  328. UT_LIST_INIT(system->space_list);
  329. return(system);
  330. }
  331. /********************************************************************
  332. Initializes the file system of this module. */
  333. void
  334. fil_init(
  335. /*=====*/
  336. ulint max_n_open) /* in: max number of open files */
  337. {
  338. ut_a(fil_system == NULL);
  339. fil_system = fil_system_create(FIL_SYSTEM_HASH_SIZE, max_n_open);
  340. }
  341. /********************************************************************
  342. Writes the flushed lsn to the header of each file space. */
  343. void
  344. fil_ibuf_init_at_db_start(void)
  345. /*===========================*/
  346. {
  347. fil_space_t* space;
  348. space = UT_LIST_GET_FIRST(fil_system->space_list);
  349. while (space) {
  350. if (space->purpose == FIL_TABLESPACE) {
  351. space->ibuf_data = ibuf_data_init_for_space(space->id);
  352. }
  353. space = UT_LIST_GET_NEXT(space_list, space);
  354. }
  355. }
  356. /********************************************************************
  357. Writes the flushed lsn and the latest archived log number to the page
  358. header of the first page of a data file. */
  359. static
  360. ulint
  361. fil_write_lsn_and_arch_no_to_file(
  362. /*==============================*/
  363. ulint space_id, /* in: space number */
  364. ulint sum_of_sizes, /* in: combined size of previous files in space,
  365. in database pages */
  366. dulint lsn, /* in: lsn to write */
  367. ulint arch_log_no) /* in: archived log number to write */
  368. {
  369. byte* buf1;
  370. byte* buf;
  371. buf1 = mem_alloc(2 * UNIV_PAGE_SIZE);
  372. buf = ut_align(buf1, UNIV_PAGE_SIZE);
  373. fil_read(TRUE, space_id, sum_of_sizes, 0, UNIV_PAGE_SIZE, buf, NULL);
  374. mach_write_to_8(buf + FIL_PAGE_FILE_FLUSH_LSN, lsn);
  375. mach_write_to_4(buf + FIL_PAGE_ARCH_LOG_NO, arch_log_no);
  376. fil_write(TRUE, space_id, sum_of_sizes, 0, UNIV_PAGE_SIZE, buf, NULL);
  377. return(DB_SUCCESS);
  378. }
  379. /********************************************************************
  380. Writes the flushed lsn and the latest archived log number to the page
  381. header of the first page of each data file. */
  382. ulint
  383. fil_write_flushed_lsn_to_data_files(
  384. /*================================*/
  385. /* out: DB_SUCCESS or error number */
  386. dulint lsn, /* in: lsn to write */
  387. ulint arch_log_no) /* in: latest archived log file number */
  388. {
  389. fil_space_t* space;
  390. fil_node_t* node;
  391. ulint sum_of_sizes;
  392. ulint err;
  393. mutex_enter(&(fil_system->mutex));
  394. space = UT_LIST_GET_FIRST(fil_system->space_list);
  395. while (space) {
  396. if (space->purpose == FIL_TABLESPACE) {
  397. sum_of_sizes = 0;
  398. node = UT_LIST_GET_FIRST(space->chain);
  399. while (node) {
  400. mutex_exit(&(fil_system->mutex));
  401. err = fil_write_lsn_and_arch_no_to_file(
  402. space->id,
  403. sum_of_sizes,
  404. lsn, arch_log_no);
  405. if (err != DB_SUCCESS) {
  406. return(err);
  407. }
  408. mutex_enter(&(fil_system->mutex));
  409. sum_of_sizes += node->size;
  410. node = UT_LIST_GET_NEXT(chain, node);
  411. }
  412. }
  413. space = UT_LIST_GET_NEXT(space_list, space);
  414. }
  415. mutex_exit(&(fil_system->mutex));
  416. return(DB_SUCCESS);
  417. }
  418. /***********************************************************************
  419. Reads the flushed lsn and arch no fields from a data file at database
  420. startup. */
  421. void
  422. fil_read_flushed_lsn_and_arch_log_no(
  423. /*=================================*/
  424. os_file_t data_file, /* in: open data file */
  425. ibool one_read_already, /* in: TRUE if min and max parameters
  426. below already contain sensible data */
  427. dulint* min_flushed_lsn, /* in/out: */
  428. ulint* min_arch_log_no, /* in/out: */
  429. dulint* max_flushed_lsn, /* in/out: */
  430. ulint* max_arch_log_no) /* in/out: */
  431. {
  432. byte* buf;
  433. dulint flushed_lsn;
  434. ulint arch_log_no;
  435. buf = ut_malloc(UNIV_PAGE_SIZE);
  436. os_file_read(data_file, buf, 0, 0, UNIV_PAGE_SIZE);
  437. flushed_lsn = mach_read_from_8(buf + FIL_PAGE_FILE_FLUSH_LSN);
  438. arch_log_no = mach_read_from_4(buf + FIL_PAGE_ARCH_LOG_NO);
  439. ut_free(buf);
  440. if (!one_read_already) {
  441. *min_flushed_lsn = flushed_lsn;
  442. *max_flushed_lsn = flushed_lsn;
  443. *min_arch_log_no = arch_log_no;
  444. *max_arch_log_no = arch_log_no;
  445. return;
  446. }
  447. if (ut_dulint_cmp(*min_flushed_lsn, flushed_lsn) > 0) {
  448. *min_flushed_lsn = flushed_lsn;
  449. }
  450. if (ut_dulint_cmp(*max_flushed_lsn, flushed_lsn) < 0) {
  451. *max_flushed_lsn = flushed_lsn;
  452. }
  453. if (*min_arch_log_no > arch_log_no) {
  454. *min_arch_log_no = arch_log_no;
  455. }
  456. if (*max_arch_log_no < arch_log_no) {
  457. *max_arch_log_no = arch_log_no;
  458. }
  459. }
  460. /***********************************************************************
  461. Creates a space object and puts it to the file system. */
  462. void
  463. fil_space_create(
  464. /*=============*/
  465. char* name, /* in: space name */
  466. ulint id, /* in: space id */
  467. ulint purpose)/* in: FIL_TABLESPACE, or FIL_LOG if log */
  468. {
  469. fil_space_t* space;
  470. char* name2;
  471. fil_system_t* system = fil_system;
  472. ut_a(system);
  473. ut_a(name);
  474. #ifndef UNIV_BASIC_LOG_DEBUG
  475. /* Spaces with an odd id number are reserved to replicate spaces
  476. used in log debugging */
  477. ut_a((purpose == FIL_LOG) || (id % 2 == 0));
  478. #endif
  479. mutex_enter(&(system->mutex));
  480. space = mem_alloc(sizeof(fil_space_t));
  481. name2 = mem_alloc(ut_strlen(name) + 1);
  482. ut_strcpy(name2, name);
  483. space->name = name2;
  484. space->id = id;
  485. space->purpose = purpose;
  486. space->size = 0;
  487. space->n_reserved_extents = 0;
  488. UT_LIST_INIT(space->chain);
  489. space->magic_n = FIL_SPACE_MAGIC_N;
  490. space->ibuf_data = NULL;
  491. rw_lock_create(&(space->latch));
  492. rw_lock_set_level(&(space->latch), SYNC_FSP);
  493. HASH_INSERT(fil_space_t, hash, system->spaces, id, space);
  494. UT_LIST_ADD_LAST(space_list, system->space_list, space);
  495. mutex_exit(&(system->mutex));
  496. }
  497. /***********************************************************************
  498. Frees a space object from a file system. Closes the files in the chain
  499. but does not delete them. */
  500. void
  501. fil_space_free(
  502. /*===========*/
  503. ulint id) /* in: space id */
  504. {
  505. fil_space_t* space;
  506. fil_node_t* fil_node;
  507. fil_system_t* system  = fil_system;
  508. mutex_enter(&(system->mutex));
  509. HASH_SEARCH(hash, system->spaces, id, space, space->id == id);
  510. HASH_DELETE(fil_space_t, hash, system->spaces, id, space);
  511. UT_LIST_REMOVE(space_list, system->space_list, space);
  512. ut_a(space->magic_n == FIL_SPACE_MAGIC_N);
  513. fil_node = UT_LIST_GET_FIRST(space->chain);
  514. ut_d(UT_LIST_VALIDATE(chain, fil_node_t, space->chain));
  515. while (fil_node != NULL) {
  516. fil_node_free(fil_node, system, space);
  517. fil_node = UT_LIST_GET_FIRST(space->chain);
  518. }
  519. ut_d(UT_LIST_VALIDATE(chain, fil_node_t, space->chain));
  520. ut_ad(0 == UT_LIST_GET_LEN(space->chain));
  521. mutex_exit(&(system->mutex));
  522. mem_free(space->name);
  523. mem_free(space);
  524. }
  525. /***********************************************************************
  526. Returns the size of the space in pages. */
  527. ulint
  528. fil_space_get_size(
  529. /*===============*/
  530. /* out: space size */
  531. ulint id) /* in: space id */
  532. {
  533. fil_space_t* space;
  534. fil_system_t* system = fil_system;
  535. ulint size;
  536. ut_ad(system);
  537. mutex_enter(&(system->mutex));
  538. HASH_SEARCH(hash, system->spaces, id, space, space->id == id);
  539. size = space->size;
  540. mutex_exit(&(system->mutex));
  541. return(size);
  542. }
  543. /***********************************************************************
  544. Tries to reserve free extents in a file space. */
  545. ibool
  546. fil_space_reserve_free_extents(
  547. /*===========================*/
  548. /* out: TRUE if succeed */
  549. ulint id, /* in: space id */
  550. ulint n_free_now, /* in: number of free extents now */
  551. ulint n_to_reserve) /* in: how many one wants to reserve */
  552. {
  553. fil_space_t* space;
  554. fil_system_t* system = fil_system;
  555. ibool success;
  556. ut_ad(system);
  557. mutex_enter(&(system->mutex));
  558. HASH_SEARCH(hash, system->spaces, id, space, space->id == id);
  559. if (space->n_reserved_extents + n_to_reserve > n_free_now) {
  560. success = FALSE;
  561. } else {
  562. space->n_reserved_extents += n_to_reserve;
  563. success = TRUE;
  564. }
  565. mutex_exit(&(system->mutex));
  566. return(success);
  567. }
  568. /***********************************************************************
  569. Releases free extents in a file space. */
  570. void
  571. fil_space_release_free_extents(
  572. /*===========================*/
  573. ulint id, /* in: space id */
  574. ulint n_reserved) /* in: how many one reserved */
  575. {
  576. fil_space_t* space;
  577. fil_system_t* system = fil_system;
  578. ut_ad(system);
  579. mutex_enter(&(system->mutex));
  580. HASH_SEARCH(hash, system->spaces, id, space, space->id == id);
  581. ut_a(space->n_reserved_extents >= n_reserved);
  582. space->n_reserved_extents -= n_reserved;
  583. mutex_exit(&(system->mutex));
  584. }
  585. /************************************************************************
  586. Prepares a file node for i/o. Opens the file if it is closed. Updates the
  587. pending i/o's field in the node and the system appropriately. Takes the node
  588. off the LRU list if it is in the LRU list. */
  589. static
  590. void
  591. fil_node_prepare_for_io(
  592. /*====================*/
  593. fil_node_t* node, /* in: file node */
  594. fil_system_t* system, /* in: file system */
  595. fil_space_t* space) /* in: space */
  596. {
  597. ibool ret;
  598. fil_node_t* last_node;
  599. ut_ad(node && system && space);
  600. ut_ad(mutex_own(&(system->mutex)));
  601. if (node->open == FALSE) {
  602. /* File is closed */
  603. ut_a(node->n_pending == 0);
  604. /* If too many files are open, close one */
  605. if (system->n_open_pending + UT_LIST_GET_LEN(system->LRU)
  606. == system->max_n_open) {
  607.      ut_a(UT_LIST_GET_LEN(system->LRU) > 0);
  608. last_node = UT_LIST_GET_LAST(system->LRU);
  609. fil_node_close(last_node, system);
  610. }
  611. node->handle = os_file_create(node->name, OS_FILE_OPEN,
  612. OS_FILE_AIO, &ret);
  613. ut_a(ret);
  614. node->open = TRUE;
  615. system->n_open_pending++;
  616. node->n_pending = 1;
  617. /* File was closed: the node was not in the LRU list */
  618. return;
  619. }
  620. /* File is open */
  621. if (node->n_pending == 0) {
  622. /* The node is in the LRU list, remove it */
  623. UT_LIST_REMOVE(LRU, system->LRU, node);
  624. system->n_open_pending++;
  625. node->n_pending = 1;
  626. } else {
  627. /* There is already a pending i/o-op on the file: the node is
  628. not in the LRU list */
  629. node->n_pending++;
  630. }
  631. }
  632. /************************************************************************
  633. Updates the data structures when an i/o operation finishes. Updates the
  634. pending i/os field in the node and the system appropriately. Puts the node
  635. in the LRU list if there are no other pending i/os. */
  636. static
  637. void
  638. fil_node_complete_io(
  639. /*=================*/
  640. fil_node_t* node, /* in: file node */
  641. fil_system_t* system) /* in: file system */
  642. {
  643. ut_ad(node);
  644. ut_ad(system);
  645. ut_ad(mutex_own(&(system->mutex)));
  646. ut_a(node->n_pending > 0);
  647. node->n_pending--;
  648. if (node->n_pending == 0) {
  649. /* The node must be put back to the LRU list */
  650. UT_LIST_ADD_FIRST(LRU, system->LRU, node);
  651. ut_a(system->n_open_pending > 0);
  652. system->n_open_pending--;
  653. if (system->n_open_pending == system->max_n_open - 1) {
  654. os_event_set(system->can_open);
  655. }
  656. }
  657. }
  658. /************************************************************************
  659. Reads or writes data. This operation is asynchronous (aio). */
  660. void
  661. fil_io(
  662. /*===*/
  663. ulint type, /* in: OS_FILE_READ or OS_FILE_WRITE,
  664. ORed to OS_FILE_LOG, if a log i/o
  665. and ORed to OS_AIO_SIMULATED_WAKE_LATER
  666. if simulated aio and we want to post a
  667. batch of i/os; NOTE that a simulated batch
  668. may introduce hidden chances of deadlocks,
  669. because i/os are not actually handled until
  670. all have been posted: use with great
  671. caution! */
  672. ibool sync, /* in: TRUE if synchronous aio is desired */
  673. ulint space_id, /* in: space id */
  674. ulint block_offset, /* in: offset in number of blocks */
  675. ulint byte_offset, /* in: remainder of offset in bytes; in
  676. aio this must be divisible by the OS block
  677. size */
  678. ulint len, /* in: how many bytes to read; this must
  679. not cross a file boundary; in aio this must
  680. be a block size multiple */
  681. void* buf, /* in/out: buffer where to store read data
  682. or from where to write; in aio this must be
  683. appropriately aligned */
  684. void* message) /* in: message for aio handler if non-sync
  685. aio used, else ignored */
  686. {
  687. ulint mode;
  688. fil_space_t* space;
  689. fil_node_t* node;
  690. ulint offset_high;
  691. ulint offset_low;
  692. fil_system_t* system;
  693. os_event_t event;
  694. ibool ret;
  695. ulint is_log;
  696. ulint wake_later;
  697. is_log = type & OS_FILE_LOG;
  698. type = type & ~OS_FILE_LOG;
  699. wake_later = type & OS_AIO_SIMULATED_WAKE_LATER;
  700. type = type & ~OS_AIO_SIMULATED_WAKE_LATER;
  701. ut_ad(byte_offset < UNIV_PAGE_SIZE);
  702. ut_ad(buf);
  703. ut_ad(len > 0);
  704. ut_ad((1 << UNIV_PAGE_SIZE_SHIFT) == UNIV_PAGE_SIZE);
  705. ut_ad(fil_validate());
  706. #ifndef UNIV_LOG_DEBUG
  707. /* ibuf bitmap pages must be read in the sync aio mode: */
  708. ut_ad(recv_no_ibuf_operations || (type == OS_FILE_WRITE)
  709. || !ibuf_bitmap_page(block_offset) || sync || is_log);
  710. #ifdef UNIV_SYNC_DEBUG
  711. ut_ad(!ibuf_inside() || is_log || (type == OS_FILE_WRITE)
  712. || ibuf_page(space_id, block_offset));
  713. #endif
  714. #endif
  715. if (sync) {
  716. mode = OS_AIO_SYNC;
  717. } else if ((type == OS_FILE_READ) && !is_log
  718. && ibuf_page(space_id, block_offset)) {
  719. mode = OS_AIO_IBUF;
  720. } else if (is_log) {
  721. mode = OS_AIO_LOG;
  722. } else {
  723. mode = OS_AIO_NORMAL;
  724. }
  725. system = fil_system;
  726. loop:
  727. mutex_enter(&(system->mutex));
  728. if (system->n_open_pending == system->max_n_open) {
  729. /* It is not sure we can open the file if it is closed: wait */
  730. event = system->can_open;
  731. os_event_reset(event);
  732. mutex_exit(&(system->mutex));
  733. os_event_wait(event);
  734. goto loop;
  735. }  
  736. HASH_SEARCH(hash, system->spaces, space_id, space,
  737. space->id == space_id);
  738. ut_a(space);
  739. ut_ad((mode != OS_AIO_IBUF) || (space->purpose == FIL_TABLESPACE));
  740. node = UT_LIST_GET_FIRST(space->chain);
  741. for (;;) {
  742. ut_a(node);
  743. if (node->size > block_offset) {
  744. /* Found! */
  745. break;
  746. } else {
  747. block_offset -= node->size;
  748. node = UT_LIST_GET_NEXT(chain, node);
  749. }
  750. }
  751. /* Open file if closed */
  752. fil_node_prepare_for_io(node, system, space);
  753. /* Now we have made the changes in the data structures of system */
  754. mutex_exit(&(system->mutex));
  755. /* Calculate the low 32 bits and the high 32 bits of the file offset */
  756. offset_high = (block_offset >> (32 - UNIV_PAGE_SIZE_SHIFT));
  757. offset_low  = ((block_offset << UNIV_PAGE_SIZE_SHIFT) & 0xFFFFFFFF)
  758. + byte_offset;
  759. ut_a(node->size - block_offset >=
  760.   (byte_offset + len + (UNIV_PAGE_SIZE - 1)) / UNIV_PAGE_SIZE);
  761. /* Do aio */
  762. ut_a(byte_offset % OS_FILE_LOG_BLOCK_SIZE == 0);
  763. ut_a((len % OS_FILE_LOG_BLOCK_SIZE) == 0);
  764. /* Queue the aio request */
  765. ret = os_aio(type, mode | wake_later, node->name, node->handle, buf,
  766. offset_low, offset_high, len, node, message);
  767. ut_a(ret);
  768. if (mode == OS_AIO_SYNC) {
  769. /* The i/o operation is already completed when we return from
  770. os_aio: */
  771. mutex_enter(&(system->mutex));
  772. fil_node_complete_io(node, system);
  773. mutex_exit(&(system->mutex));
  774. ut_ad(fil_validate());
  775. }
  776. }
  777. /************************************************************************
  778. Reads data from a space to a buffer. Remember that the possible incomplete
  779. blocks at the end of file are ignored: they are not taken into account when
  780. calculating the byte offset within a space. */
  781. void
  782. fil_read(
  783. /*=====*/
  784. ibool sync, /* in: TRUE if synchronous aio is desired */
  785. ulint space_id, /* in: space id */
  786. ulint block_offset, /* in: offset in number of blocks */
  787. ulint byte_offset, /* in: remainder of offset in bytes; in aio
  788. this must be divisible by the OS block size */
  789. ulint len, /* in: how many bytes to read; this must not
  790. cross a file boundary; in aio this must be a
  791. block size multiple */
  792. void* buf, /* in/out: buffer where to store data read;
  793. in aio this must be appropriately aligned */
  794. void* message) /* in: message for aio handler if non-sync
  795. aio used, else ignored */
  796. {
  797. fil_io(OS_FILE_READ, sync, space_id, block_offset, byte_offset, len,
  798. buf, message);
  799. }
  800. /************************************************************************
  801. Writes data to a space from a buffer. Remember that the possible incomplete
  802. blocks at the end of file are ignored: they are not taken into account when
  803. calculating the byte offset within a space. */
  804. void
  805. fil_write(
  806. /*======*/
  807. ibool sync, /* in: TRUE if synchronous aio is desired */
  808. ulint space_id, /* in: space id */
  809. ulint block_offset, /* in: offset in number of blocks */
  810. ulint byte_offset, /* in: remainder of offset in bytes; in aio
  811. this must be divisible by the OS block size */
  812. ulint len, /* in: how many bytes to write; this must
  813. not cross a file boundary; in aio this must
  814. be a block size multiple */
  815. void* buf, /* in: buffer from which to write; in aio
  816. this must be appropriately aligned */
  817. void* message) /* in: message for aio handler if non-sync
  818. aio used, else ignored */
  819. {
  820. fil_io(OS_FILE_WRITE, sync, space_id, block_offset, byte_offset, len,
  821. buf, message);
  822. }
  823. /**************************************************************************
  824. Waits for an aio operation to complete. This function is used to write the
  825. handler for completed requests. The aio array of pending requests is divided
  826. into segments (see os0file.c for more info). The thread specifies which
  827. segment it wants to wait for. */
  828. void
  829. fil_aio_wait(
  830. /*=========*/
  831. ulint segment) /* in: the number of the segment in the aio
  832. array to wait for */ 
  833. {
  834. ibool ret;
  835. fil_node_t* fil_node;
  836. fil_system_t* system = fil_system;
  837. void* message;
  838. ut_ad(fil_validate());
  839. if (os_aio_use_native_aio) {
  840. #ifdef WIN_ASYNC_IO
  841. ret = os_aio_windows_handle(segment, 0, &fil_node, &message);
  842. #elif defined(POSIX_ASYNC_IO)
  843. ret = os_aio_posix_handle(segment, &fil_node, &message);
  844. #else
  845. ut_a(0);
  846. #endif
  847. } else {
  848. ret = os_aio_simulated_handle(segment, (void**) &fil_node,
  849.                                                     &message);
  850. }
  851. ut_a(ret);
  852. mutex_enter(&(system->mutex));
  853. fil_node_complete_io(fil_node, fil_system);
  854. mutex_exit(&(system->mutex));
  855. ut_ad(fil_validate());
  856. /* Do the i/o handling */
  857. if (buf_pool_is_block(message)) {
  858. buf_page_io_complete(message);
  859. } else {
  860. log_io_complete(message);
  861. }
  862. }
  863. /**************************************************************************
  864. Flushes to disk possible writes cached by the OS. */
  865. void
  866. fil_flush(
  867. /*======*/
  868. ulint space_id) /* in: file space id (this can be a group of
  869. log files or a tablespace of the database) */
  870. {
  871. fil_system_t* system = fil_system;
  872. fil_space_t* space;
  873. fil_node_t* node;
  874. os_file_t file;
  875. mutex_enter(&(system->mutex));
  876. HASH_SEARCH(hash, system->spaces, space_id, space,
  877. space->id == space_id);
  878. ut_a(space);
  879. node = UT_LIST_GET_FIRST(space->chain);
  880. while (node) {
  881. if (node->open) {
  882. file = node->handle;
  883. mutex_exit(&(system->mutex));
  884. /* Note that it is not certain, when we have
  885. released the mutex above, that the file of the
  886. handle is still open: we assume that the OS
  887. will not crash or trap even if we pass a handle
  888. to a closed file below in os_file_flush! */
  889. os_file_flush(file);
  890. mutex_enter(&(system->mutex));
  891. }
  892. node = UT_LIST_GET_NEXT(chain, node);
  893. }
  894. mutex_exit(&(system->mutex));
  895. }
  896. /**************************************************************************
  897. Flushes to disk writes in file spaces of the given type possibly cached by
  898. the OS. */
  899. void
  900. fil_flush_file_spaces(
  901. /*==================*/
  902. ulint purpose) /* in: FIL_TABLESPACE, FIL_LOG */
  903. {
  904. fil_system_t* system = fil_system;
  905. fil_space_t* space;
  906. mutex_enter(&(system->mutex));
  907. space = UT_LIST_GET_FIRST(system->space_list);
  908. while (space) {
  909. if (space->purpose == purpose) {
  910. mutex_exit(&(system->mutex));
  911. fil_flush(space->id);
  912. mutex_enter(&(system->mutex));
  913. }
  914. space = UT_LIST_GET_NEXT(space_list, space);
  915. }
  916. mutex_exit(&(system->mutex));
  917. }
  918. /**********************************************************************
  919. Checks the consistency of the file system. */
  920. ibool
  921. fil_validate(void)
  922. /*==============*/
  923. /* out: TRUE if ok */
  924. {
  925. fil_space_t* space;
  926. fil_node_t* fil_node;
  927. ulint pending_count = 0;
  928. fil_system_t* system;
  929. ulint i;
  930. system = fil_system;
  931. mutex_enter(&(system->mutex));
  932. /* Look for spaces in the hash table */
  933. for (i = 0; i < hash_get_n_cells(system->spaces); i++) {
  934. space = HASH_GET_FIRST(system->spaces, i);
  935. while (space != NULL) {
  936. UT_LIST_VALIDATE(chain, fil_node_t, space->chain); 
  937. fil_node = UT_LIST_GET_FIRST(space->chain);
  938. while (fil_node != NULL) {
  939. if (fil_node->n_pending > 0) {
  940. pending_count++;
  941. ut_a(fil_node->open);
  942. }
  943. fil_node = UT_LIST_GET_NEXT(chain, fil_node);
  944. }
  945. space = HASH_GET_NEXT(hash, space);
  946. }
  947. }
  948. ut_a(pending_count == system->n_open_pending);
  949. UT_LIST_VALIDATE(LRU, fil_node_t, system->LRU);
  950. fil_node = UT_LIST_GET_FIRST(system->LRU);
  951. while (fil_node != NULL) {
  952. ut_a(fil_node->n_pending == 0);
  953. ut_a(fil_node->open);
  954. fil_node = UT_LIST_GET_NEXT(LRU, fil_node);
  955. }
  956. mutex_exit(&(system->mutex));
  957. return(TRUE);
  958. }
  959. /************************************************************************
  960. Returns TRUE if file address is undefined. */
  961. ibool
  962. fil_addr_is_null(
  963. /*=============*/
  964. /* out: TRUE if undefined */
  965. fil_addr_t addr) /* in: address */
  966. {
  967. if (addr.page == FIL_NULL) {
  968. return(TRUE);
  969. }
  970. return(FALSE);
  971. }
  972. /************************************************************************
  973. Accessor functions for a file page */
  974. ulint
  975. fil_page_get_prev(byte* page)
  976. {
  977. return(mach_read_from_4(page + FIL_PAGE_PREV));
  978. }
  979. ulint
  980. fil_page_get_next(byte* page)
  981. {
  982. return(mach_read_from_4(page + FIL_PAGE_NEXT));
  983. }
  984. /*************************************************************************
  985. Sets the file page type. */
  986. void
  987. fil_page_set_type(
  988. /*==============*/
  989. byte*  page, /* in: file page */
  990. ulint type) /* in: type */
  991. {
  992. ut_ad(page);
  993. ut_ad((type == FIL_PAGE_INDEX) || (type == FIL_PAGE_INDEX));
  994. mach_write_to_2(page + FIL_PAGE_TYPE, type);
  995. }
  996. /*************************************************************************
  997. Gets the file page type. */
  998. ulint
  999. fil_page_get_type(
  1000. /*==============*/
  1001. /* out: type; NOTE that if the type has not been
  1002. written to page, the return value not defined */
  1003. byte*  page) /* in: file page */
  1004. {
  1005. ut_ad(page);
  1006. return(mach_read_from_2(page + FIL_PAGE_TYPE));
  1007. }