Blame view

vendor/yiisoft/multiparser/CsvParser.php 8.63 KB
1e991822   Mihail   csv parser with e...
1
2
  <?php
  /**
1e991822   Mihail   csv parser with e...
3
  
40ff24a1   Mihail   refactor CsvParse...
4
   */
036717a1   Mihail   add error excepti...
5
  namespace yii\multiparser;
93e39994   Mihail   fixed parser and ...
6
  use common\components\CustomVarDamp;
dc10d651   Mihail   add value filter ...
7
  
1e991822   Mihail   csv parser with e...
8
  
474f35bf   Mihail   add DynamicFormHe...
9
10
11
12
  /**
   * Class CsvParser
   * @package yii\multiparser
   */
37656b1f   Mihail   add parser interf...
13
  class CsvParser implements ParserInterface
999b9326   Mihail   add detectStartPo...
14
  {
1e991822   Mihail   csv parser with e...
15
  
1e991822   Mihail   csv parser with e...
16
  
40ff24a1   Mihail   refactor CsvParse...
17
18
      /** @var bool
      имеет ли файл заголовок который будет установлен ключами возвращемого массива*/
e55d56cc   Mihail   add draft version...
19
      public $hasHeaderRow = false;
40ff24a1   Mihail   refactor CsvParse...
20
21
22
      /** @var array - массив с заголовком,
       * если не указан и установлено свойство $hasHeaderRow - будет определен автоматически */
      public $keys;
1e991822   Mihail   csv parser with e...
23
  
40ff24a1   Mihail   refactor CsvParse...
24
      /** @var экземляр SplFileObject читаемого файла */
e55d56cc   Mihail   add draft version...
25
      public $file;
1e991822   Mihail   csv parser with e...
26
  
40ff24a1   Mihail   refactor CsvParse...
27
      /** @var int - первая строка с которой начинать парсить */
e55d56cc   Mihail   add draft version...
28
      public $first_line = 0;
1e991822   Mihail   csv parser with e...
29
  
40ff24a1   Mihail   refactor CsvParse...
30
31
32
33
34
      /** @var int - последняя строка до которой  парсить
       * если не указана, то парсинг происходит до конца файла*/
      public $last_line = 0;
  
      /** @var int - первая колонка файла с которой начнется парсинг */
e55d56cc   Mihail   add draft version...
35
      public $first_column = 0;
b13b1c83   Mihail   final version par...
36
  
40ff24a1   Mihail   refactor CsvParse...
37
      /** @var string - разделитель csv */
e55d56cc   Mihail   add draft version...
38
      public $delimiter = ';';
40ff24a1   Mihail   refactor CsvParse...
39
40
41
42
43
44
45
46
  
      /** @var bool
      нужно ли искать автоматически первоую значисмую строку (не пустая строка)
       * иначе первая строка будет взята из аттрибута $first_line */
      public $auto_detect_first_line = false;
  
      /** @var int - количество значимых колонок, что бы определить первую значимую строку
       * используется при автоопределении первой строки*/
e55d56cc   Mihail   add draft version...
47
      public $min_column_quantity = 5;
dc10d651   Mihail   add value filter ...
48
  
74072a2a   Mihail   add first version...
49
50
51
52
      /** @var array - конфигурация конвертера значений */
      public $converter_conf = [];
      /** @var array - конвертер созданный по конфигурации */
      public $converter = NULL;
d3cf6647   Mihail   add multiply pric...
53
54
      /** @var int - текущая строка */
      private $current_line = 0;
5c710262   Mihail   edit csv parser -...
55
  
474f35bf   Mihail   add DynamicFormHe...
56
  
40ff24a1   Mihail   refactor CsvParse...
57
      /**
74072a2a   Mihail   add first version...
58
       * метод устанвливает нужные настройки объекта SplFileObject, для работы с csv
40ff24a1   Mihail   refactor CsvParse...
59
       */
e55d56cc   Mihail   add draft version...
60
61
      public function setup()
      {
999b9326   Mihail   add detectStartPo...
62
63
64
          $this->file->setCsvControl($this->delimiter);
          $this->file->setFlags(\SplFileObject::READ_CSV);
          $this->file->setFlags(\SplFileObject::SKIP_EMPTY);
aa518ad3   Mihail   finishing with co...
65
  
40ff24a1   Mihail   refactor CsvParse...
66
67
          if ($this->auto_detect_first_line) {
              $this->shiftToFirstValuableLine();
e55d56cc   Mihail   add draft version...
68
          }
74072a2a   Mihail   add first version...
69
70
          $this->setupConverter();
  
1e991822   Mihail   csv parser with e...
71
72
      }
  
40ff24a1   Mihail   refactor CsvParse...
73
      /**
74072a2a   Mihail   add first version...
74
75
76
77
78
       * устанавливает конвертер значений согласно конфигурационным настройкам
       */
      public function setupConverter()
      {
          if (!count($this->converter_conf)) {
d21c5c5f   Mihail   XMLparser - read ...
79
              $this->converter = new Converter();
74072a2a   Mihail   add first version...
80
81
82
83
              if ($this->hasHeaderRow) {
                  // если у файла есть заголовок, то в результате имеем ассоциативный массив
                  $this->converter_conf['hasKey'] = 1;
              }
8894c93a   Mihail   add Importers fil...
84
              //$this->converter->configuration = $this->converter_conf;
aa518ad3   Mihail   finishing with co...
85
  
74072a2a   Mihail   add first version...
86
87
88
89
90
          }
      }
  
  
      /**
40ff24a1   Mihail   refactor CsvParse...
91
92
93
94
95
96
       * определяет первую значимую строку,
       * считывается файл пока в нем не встретится строка с непустыми колонками
       * в количестве указанном в атрибуте min_column_quantity
       * в результате выполнения курсор ресурса будет находится на последней незначимой строке
       */
      protected function shiftToFirstValuableLine()
e55d56cc   Mihail   add draft version...
97
      {
e55d56cc   Mihail   add draft version...
98
  
40ff24a1   Mihail   refactor CsvParse...
99
          $finish = false;
2cdc93f0   Mihail   add crud models f...
100
          while (!$finish ) {
d3cf6647   Mihail   add multiply pric...
101
102
              $this->current_line ++;
  
999b9326   Mihail   add detectStartPo...
103
              $j = 0;
93e39994   Mihail   fixed parser and ...
104
              $row = $this->file->fgetcsv();;
999b9326   Mihail   add detectStartPo...
105
106
              if ($row === false) {
                  continue;
e55d56cc   Mihail   add draft version...
107
              }
999b9326   Mihail   add detectStartPo...
108
  
999b9326   Mihail   add detectStartPo...
109
              for ($i = 1; $i <= count($row); $i++) {
d3cf6647   Mihail   add multiply pric...
110
             //     CustomVarDamp::dump($row[$i]);
999b9326   Mihail   add detectStartPo...
111
112
113
114
115
116
  
                  if ($row[$i - 1] <> '') {
                      $j++;
                  }
  
                  if ($j >= $this->min_column_quantity) {
40ff24a1   Mihail   refactor CsvParse...
117
                      break 2;
999b9326   Mihail   add detectStartPo...
118
                  }
e55d56cc   Mihail   add draft version...
119
120
              }
          }
2cdc93f0   Mihail   add crud models f...
121
122
123
124
          // @todo - сделать опционально
          // код для того что бы парсить первую строку, закомментировано как предполагается что первая значимая строка это заголовок
   //       $this->current_line --;
  //        $this->file->seek( $this->current_line );
e55d56cc   Mihail   add draft version...
125
      }
1e991822   Mihail   csv parser with e...
126
127
  
      /**
40ff24a1   Mihail   refactor CsvParse...
128
129
       * @return array - итоговый двумерный массив с результатом парсинга
       * метод считывает с открытого файла данные построчно
1e991822   Mihail   csv parser with e...
130
131
132
       */
      public function read()
      {
aa518ad3   Mihail   finishing with co...
133
  
1e991822   Mihail   csv parser with e...
134
          $return = [];
40ff24a1   Mihail   refactor CsvParse...
135
  
01746976   Mihail   fix errors with w...
136
137
138
139
          // будем считать количество пустых строк подряд - при трех подряд - считаем что это конец файла и выходим
          $empty_lines = 0;
          while ( $empty_lines < 3 ) {
              // прочтем строку из файла. Если там есть значения - то в ней массив, иначе - false
d3cf6647   Mihail   add multiply pric...
140
              $row = $this->readRow(  );
40ff24a1   Mihail   refactor CsvParse...
141
  
01746976   Mihail   fix errors with w...
142
143
144
145
146
147
              if ($row === false) {
                  //счетчик пустых строк
                  $empty_lines++;
                  continue;
              }
              // строка не пустая, имеем прочитанный массив значений
d3cf6647   Mihail   add multiply pric...
148
              $this->current_line++;
1e991822   Mihail   csv parser with e...
149
              if ($this->hasHeaderRow) {
93e39994   Mihail   fixed parser and ...
150
                  // в файле есть заголовок, но он еще не назначен, назначим
dc10d651   Mihail   add value filter ...
151
152
                  if ($this->keys === NULL) {
                      $this->keys = array_values($row);
1e991822   Mihail   csv parser with e...
153
                  }
1e991822   Mihail   csv parser with e...
154
              }
40ff24a1   Mihail   refactor CsvParse...
155
              // если у нас установлен лимит, при  его достижении прекращаем парсинг
d3cf6647   Mihail   add multiply pric...
156
              if (($this->last_line) && ($this->current_line > $this->last_line)) {
999b9326   Mihail   add detectStartPo...
157
158
                  break;
              }
01746976   Mihail   fix errors with w...
159
160
              // обнуляем счетчик, так как считаюся пустые строки ПОДРЯД
              $empty_lines = 0;
93e39994   Mihail   fixed parser and ...
161
162
  
              $return[] = $row;
1e991822   Mihail   csv parser with e...
163
164
165
          }
  
          $this->closeHandler();
1e991822   Mihail   csv parser with e...
166
167
168
          return $return;
      }
  
2957209c   Mihail   csv parser - add ...
169
  
dfeb2d10   Mihail   edit universal cs...
170
      protected function closeHandler()
1e991822   Mihail   csv parser with e...
171
      {
2957209c   Mihail   csv parser - add ...
172
          $this->file = NULL;
1e991822   Mihail   csv parser with e...
173
174
      }
  
40ff24a1   Mihail   refactor CsvParse...
175
176
177
      /**
       * @return array - одномерный массив результата парсинга строки
       */
d3cf6647   Mihail   add multiply pric...
178
      protected function readRow(  )
1e991822   Mihail   csv parser with e...
179
      {
999b9326   Mihail   add detectStartPo...
180
          $row = $this->file->fgetcsv();
d3cf6647   Mihail   add multiply pric...
181
182
183
184
          // уберем нулевые колонки
          $row = array_filter($row, function($val){
              return $val <> '';
          });
74072a2a   Mihail   add first version...
185
          if (is_array($row)) {
93e39994   Mihail   fixed parser and ...
186
187
188
189
              // если есть заголовок, то перед конвертацией его нужно назначить
              if ($this->hasHeaderRow && $this->keys !== NULL) {
  
                  if (count($this->keys) !== count($row)) {
d3cf6647   Mihail   add multiply pric...
190
                      throw new \ErrorException("Ошибка парсинга файла в строке # {$this->current_line}. Не соответсвие числа ключевых колонок (заголовка) - числу колонок с данными", 0, 1, $this->file->getBasename(), $this->current_line);
93e39994   Mihail   fixed parser and ...
191
192
193
194
195
                  }
  
                  $row = array_combine($this->keys, $row);
              }
              // попытаемся конвертировать прочитанные значения согласно конфигурации котнвертера значений
74072a2a   Mihail   add first version...
196
              $row = $this->convert($row);
93e39994   Mihail   fixed parser and ...
197
198
              // обрежем массив к первой значимой колонке
              if ( $this->first_column ) {
40ff24a1   Mihail   refactor CsvParse...
199
  
74072a2a   Mihail   add first version...
200
                  $row = array_slice($row, $this->first_column);
40ff24a1   Mihail   refactor CsvParse...
201
  
74072a2a   Mihail   add first version...
202
              }
dfeb2d10   Mihail   edit universal cs...
203
          }
999b9326   Mihail   add detectStartPo...
204
205
          if (is_null($row))
              $row = false;
dc10d651   Mihail   add value filter ...
206
  
dfeb2d10   Mihail   edit universal cs...
207
          return $row;
1e991822   Mihail   csv parser with e...
208
209
210
  
      }
  
74072a2a   Mihail   add first version...
211
212
213
214
215
216
217
218
219
220
      /**
       * @param $arr
       * @return mixed
       * преобразовует значения прочитанного массива в нужные типы, согласно конфигурации конвертера
       */
      protected function convert($arr)
      {
          $result = $arr;
          $converter = $this->converter;
  
74072a2a   Mihail   add first version...
221
222
          if (!is_null($converter)) {
  
8894c93a   Mihail   add Importers fil...
223
              $result = $converter->convertByConfiguration( $arr, $this->converter_conf );
74072a2a   Mihail   add first version...
224
225
226
227
228
229
230
  
          }
  
          return $result;
  
      }
  
1e991822   Mihail   csv parser with e...
231
232
  
  }