Blame view

lib/TableParser.php 7.29 KB
8e128526   Mihail   add xlsx parser
1
2
3
4
5
6
7
8
  <?php
  /**
   * Created by PhpStorm.
   * User: Tsurkanov
   * Date: 22.10.2015
   * Time: 15:53
   */
  
d0261fd1   Mihail   fixed namespace i...
9
  namespace yii\multiparser;
8e128526   Mihail   add xlsx parser
10
11
  
  
f6e54131   Mihail   fixed keys and he...
12
13
  use common\components\CustomVarDamp;
  
a684f314   Mihail   add adjustRowToKe...
14
15
  abstract class TableParser extends Parser
  {
8e128526   Mihail   add xlsx parser
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
  
  
      /**
       * @var array - текущий отпарсенный ряд
       */
      protected $row = [];
  
      /** @var int - первая строка с которой начинать парсить */
      public $first_line = 0;
  
      /** @var int - последняя строка до которой  парсить
       * если не указана, то парсинг происходит до конца файла*/
      public $last_line = 0;
  
      /** @var int - первая колонка файла с которой начнется парсинг */
      public $first_column = 0;
  
  
      /** @var bool
      нужно ли искать автоматически первоую значисмую строку (не пустая строка)
       * иначе первая строка будет взята из аттрибута $first_line */
      public $auto_detect_first_line = false;
  
      /** @var int - количество значимых колонок, что бы определить первую значимую строку
       * используется при автоопределении первой строки*/
      public $min_column_quantity = 5;
      /** @var int - количество пустых строк, что бы определить конец файла,
a684f314   Mihail   add adjustRowToKe...
43
       * такое количеество подряд пустых строк считается концом файла*/
8e128526   Mihail   add xlsx parser
44
45
46
47
48
49
50
51
52
53
54
55
56
      public $empty_lines_quantity = 3;
  
  
      /** @var int - номер текущей строки парсера */
      protected $current_row_number = 0;
  
  
      protected abstract function isEmptyRow();
  
      protected abstract function isEmptyColumn($column_value);
  
      protected abstract function readRow();
  
d1fac7a9   Mihail   add parsing sheet...
57
58
      protected abstract function setResult();
  
8e128526   Mihail   add xlsx parser
59
60
61
62
63
64
65
66
67
  
      public function read()
      {
          if ($this->auto_detect_first_line) {
              $this->shiftToFirstValuableLine();
          }
  
          // будем считать количество пустых строк подряд - при достижении $empty_lines_quantity - считаем что это конец файла и выходим
          $empty_lines = 0;
a684f314   Mihail   add adjustRowToKe...
68
          while ($empty_lines < $this->empty_lines_quantity) {
8e128526   Mihail   add xlsx parser
69
70
71
              // прочтем строку из файла
              $this->readRow();
  
a684f314   Mihail   add adjustRowToKe...
72
              if ($this->isEmptyRow()) {
8e128526   Mihail   add xlsx parser
73
                  //счетчик пустых строк
d1fac7a9   Mihail   add parsing sheet...
74
                  //CustomVarDamp::dump($this->current_row_number);
8e128526   Mihail   add xlsx parser
75
76
77
78
                  $empty_lines++;
                  continue;
              }
  
58f734e6   Mihail   fixed issue with ...
79
              // уберем пустые колонки из ряда
a684f314   Mihail   add adjustRowToKe...
80
81
82
83
              if ($this->keys === NULL) {
                  $this->filterRow();
              }
  
58f734e6   Mihail   fixed issue with ...
84
  
a684f314   Mihail   add adjustRowToKe...
85
              $this->adjustRowToSettings();
8e128526   Mihail   add xlsx parser
86
87
88
89
90
  
              // строка не пустая, имеем прочитанный массив значений
              $this->current_row_number++;
  
              // для первой строки утановим ключи из заголовка
a684f314   Mihail   add adjustRowToKe...
91
              if (!$this->setKeysFromHeader()) {
d1fac7a9   Mihail   add parsing sheet...
92
93
94
                  $this->setResult();
              }
  
8e128526   Mihail   add xlsx parser
95
96
  
              // если у нас установлен лимит, при  его достижении прекращаем парсинг
a684f314   Mihail   add adjustRowToKe...
97
              if ($this->isLastLine())
8e128526   Mihail   add xlsx parser
98
99
100
101
102
                  break;
  
              // обнуляем счетчик, так как считаюся пустые строки ПОДРЯД
              $empty_lines = 0;
  
8e128526   Mihail   add xlsx parser
103
104
          }
  
8e128526   Mihail   add xlsx parser
105
      }
a684f314   Mihail   add adjustRowToKe...
106
  
8e128526   Mihail   add xlsx parser
107
108
109
110
111
112
113
114
      /**
       * определяет первую значимую строку,
       * считывается файл пока в нем не встретится строка с непустыми колонками
       * в количестве указанном в атрибуте min_column_quantity
       * в результате выполнения $current_row_number будет находится на последней незначимой строке
       */
      protected function shiftToFirstValuableLine()
      {
a684f314   Mihail   add adjustRowToKe...
115
          do {
8e128526   Mihail   add xlsx parser
116
  
f6e54131   Mihail   fixed keys and he...
117
              $this->current_row_number++;
8e128526   Mihail   add xlsx parser
118
119
              $this->readRow();
  
a684f314   Mihail   add adjustRowToKe...
120
          } while ($this->isEmptyRow());
8e128526   Mihail   add xlsx parser
121
122
123
124
125
126
127
128
129
130
  
          // @todo - сделать опционально
          // код для того что бы парсить первую строку, закомментировано как предполагается что первая значимая строка это заголовок
          //       $this->current_row_number --;
  //        $this->file->seek( $this->current_row_number );
      }
  
      /**
       * @return array - одномерный массив результата парсинга строки
       */
a684f314   Mihail   add adjustRowToKe...
131
      protected function adjustRowToSettings()
8e128526   Mihail   add xlsx parser
132
133
      {
  
a684f314   Mihail   add adjustRowToKe...
134
135
136
137
138
139
140
          // если есть заголовок, то перед конвертацией его нужно назначить
          if ($this->keys !== NULL) {
              // adjust row to keys
              $this->adjustRowToKeys();
              // назначим заголовок
              $this->row = array_combine($this->keys, $this->row);
          }
8e128526   Mihail   add xlsx parser
141
  
a684f314   Mihail   add adjustRowToKe...
142
143
          // попытаемся конвертировать прочитанные значения согласно конфигурации котнвертера значений
          $this->row = $this->convert($this->row);
8e128526   Mihail   add xlsx parser
144
  
a684f314   Mihail   add adjustRowToKe...
145
146
          // обрежем массив к первой значимой колонке
          if ($this->first_column) {
8e128526   Mihail   add xlsx parser
147
  
a684f314   Mihail   add adjustRowToKe...
148
              $this->row = array_slice($this->row, $this->first_column);
8e128526   Mihail   add xlsx parser
149
  
a684f314   Mihail   add adjustRowToKe...
150
          }
8e128526   Mihail   add xlsx parser
151
152
153
  
      }
  
a684f314   Mihail   add adjustRowToKe...
154
155
156
      protected function setKeysFromHeader()
      {
          if ($this->has_header_row) {
8e128526   Mihail   add xlsx parser
157
158
              // в файле есть заголовок, но он еще не назначен - назначим
              if ($this->keys === NULL) {
a684f314   Mihail   add adjustRowToKe...
159
                  $this->keys = array_values($this->row);
d1fac7a9   Mihail   add parsing sheet...
160
                  return true;
8e128526   Mihail   add xlsx parser
161
162
              }
          }
d1fac7a9   Mihail   add parsing sheet...
163
          return false;
8e128526   Mihail   add xlsx parser
164
165
      }
  
a684f314   Mihail   add adjustRowToKe...
166
167
      protected function filterRow()
      {
cd8b9f70   Mihail   add cleanUp metho...
168
          // если есть заголовок - все значения нужны, не фильтруем
a684f314   Mihail   add adjustRowToKe...
169
          if ($this->has_header_row || !is_array($this->row)) {
d1fac7a9   Mihail   add parsing sheet...
170
171
              return;
          }
a684f314   Mihail   add adjustRowToKe...
172
          $this->row = array_filter($this->row, function ($val) {
8e128526   Mihail   add xlsx parser
173
174
              return !$this->isEmptyColumn($val);
          });
8e128526   Mihail   add xlsx parser
175
176
      }
  
a684f314   Mihail   add adjustRowToKe...
177
178
      protected function isLastLine()
      {
8e128526   Mihail   add xlsx parser
179
  
a684f314   Mihail   add adjustRowToKe...
180
          if (($this->last_line) && ($this->current_row_number > $this->last_line)) {
8e128526   Mihail   add xlsx parser
181
182
183
184
185
              return true;
          }
          return false;
      }
  
a684f314   Mihail   add adjustRowToKe...
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
      protected function adjustRowToKeys()
      {
          //уберем из ряда те колонки которых нет в ключах
          $this->row = array_intersect_key($this->row, $this->keys);
  
          $keys_count = count($this->keys);
          $column_count = count($this->row);
          if ($keys_count != $column_count) {
              // найдем колонки которых нет в ряде но есть ключах
              $arr_diff = array_diff_key($this->keys, $this->row);
              foreach ($arr_diff as $key => $value) {
                  // колонки которых нет в ряде но есть ключах, добавим их с пустым значением
                  $this->row[$key] = '';
              }
          }
      }
  
8e128526   Mihail   add xlsx parser
203
  }