Blame view

vendor/yiisoft/multiparser/CsvParser.php 8.63 KB
1e991822   Mihail   csv parser with e...
1
2
  <?php
  /**
1e991822   Mihail   csv parser with e...
3
  
40ff24a1   Mihail   refactor CsvParse...
4
   */
036717a1   Mihail   add error excepti...
5
  namespace yii\multiparser;
93e39994   Mihail   fixed parser and ...
6
  use common\components\CustomVarDamp;
dc10d651   Mihail   add value filter ...
7
  
1e991822   Mihail   csv parser with e...
8
  
474f35bf   Mihail   add DynamicFormHe...
9
10
11
12
  /**
   * Class CsvParser
   * @package yii\multiparser
   */
37656b1f   Mihail   add parser interf...
13
  class CsvParser implements ParserInterface
999b9326   Mihail   add detectStartPo...
14
  {
1e991822   Mihail   csv parser with e...
15
  
1e991822   Mihail   csv parser with e...
16
  
40ff24a1   Mihail   refactor CsvParse...
17
18
      /** @var bool
      имеет ли файл заголовок который будет установлен ключами возвращемого массива*/
e55d56cc   Mihail   add draft version...
19
      public $hasHeaderRow = false;
40ff24a1   Mihail   refactor CsvParse...
20
21
22
      /** @var array - массив с заголовком,
       * если не указан и установлено свойство $hasHeaderRow - будет определен автоматически */
      public $keys;
1e991822   Mihail   csv parser with e...
23
  
40ff24a1   Mihail   refactor CsvParse...
24
      /** @var экземляр SplFileObject читаемого файла */
e55d56cc   Mihail   add draft version...
25
      public $file;
1e991822   Mihail   csv parser with e...
26
  
40ff24a1   Mihail   refactor CsvParse...
27
      /** @var int - первая строка с которой начинать парсить */
e55d56cc   Mihail   add draft version...
28
      public $first_line = 0;
1e991822   Mihail   csv parser with e...
29
  
40ff24a1   Mihail   refactor CsvParse...
30
31
32
33
34
      /** @var int - последняя строка до которой  парсить
       * если не указана, то парсинг происходит до конца файла*/
      public $last_line = 0;
  
      /** @var int - первая колонка файла с которой начнется парсинг */
e55d56cc   Mihail   add draft version...
35
      public $first_column = 0;
b13b1c83   Mihail   final version par...
36
  
40ff24a1   Mihail   refactor CsvParse...
37
      /** @var string - разделитель csv */
e55d56cc   Mihail   add draft version...
38
      public $delimiter = ';';
40ff24a1   Mihail   refactor CsvParse...
39
40
41
42
43
44
45
46
  
      /** @var bool
      нужно ли искать автоматически первоую значисмую строку (не пустая строка)
       * иначе первая строка будет взята из аттрибута $first_line */
      public $auto_detect_first_line = false;
  
      /** @var int - количество значимых колонок, что бы определить первую значимую строку
       * используется при автоопределении первой строки*/
e55d56cc   Mihail   add draft version...
47
      public $min_column_quantity = 5;
dc10d651   Mihail   add value filter ...
48
  
74072a2a   Mihail   add first version...
49
50
51
52
      /** @var array - конфигурация конвертера значений */
      public $converter_conf = [];
      /** @var array - конвертер созданный по конфигурации */
      public $converter = NULL;
d3cf6647   Mihail   add multiply pric...
53
54
      /** @var int - текущая строка */
      private $current_line = 0;
5c710262   Mihail   edit csv parser -...
55
  
474f35bf   Mihail   add DynamicFormHe...
56
  
40ff24a1   Mihail   refactor CsvParse...
57
      /**
74072a2a   Mihail   add first version...
58
       * метод устанвливает нужные настройки объекта SplFileObject, для работы с csv
40ff24a1   Mihail   refactor CsvParse...
59
       */
e55d56cc   Mihail   add draft version...
60
61
      public function setup()
      {
f5769826   Mihail   add modal form fo...
62
  
999b9326   Mihail   add detectStartPo...
63
64
65
          $this->file->setCsvControl($this->delimiter);
          $this->file->setFlags(\SplFileObject::READ_CSV);
          $this->file->setFlags(\SplFileObject::SKIP_EMPTY);
aa518ad3   Mihail   finishing with co...
66
  
40ff24a1   Mihail   refactor CsvParse...
67
68
          if ($this->auto_detect_first_line) {
              $this->shiftToFirstValuableLine();
e55d56cc   Mihail   add draft version...
69
          }
74072a2a   Mihail   add first version...
70
71
          $this->setupConverter();
  
1e991822   Mihail   csv parser with e...
72
73
      }
  
40ff24a1   Mihail   refactor CsvParse...
74
      /**
74072a2a   Mihail   add first version...
75
76
77
78
79
       * устанавливает конвертер значений согласно конфигурационным настройкам
       */
      public function setupConverter()
      {
          if (!count($this->converter_conf)) {
d21c5c5f   Mihail   XMLparser - read ...
80
              $this->converter = new Converter();
74072a2a   Mihail   add first version...
81
82
83
84
              if ($this->hasHeaderRow) {
                  // если у файла есть заголовок, то в результате имеем ассоциативный массив
                  $this->converter_conf['hasKey'] = 1;
              }
8894c93a   Mihail   add Importers fil...
85
              //$this->converter->configuration = $this->converter_conf;
aa518ad3   Mihail   finishing with co...
86
  
74072a2a   Mihail   add first version...
87
88
89
90
91
          }
      }
  
  
      /**
40ff24a1   Mihail   refactor CsvParse...
92
93
94
95
96
97
       * определяет первую значимую строку,
       * считывается файл пока в нем не встретится строка с непустыми колонками
       * в количестве указанном в атрибуте min_column_quantity
       * в результате выполнения курсор ресурса будет находится на последней незначимой строке
       */
      protected function shiftToFirstValuableLine()
e55d56cc   Mihail   add draft version...
98
      {
e55d56cc   Mihail   add draft version...
99
  
40ff24a1   Mihail   refactor CsvParse...
100
          $finish = false;
2cdc93f0   Mihail   add crud models f...
101
          while (!$finish ) {
d3cf6647   Mihail   add multiply pric...
102
103
              $this->current_line ++;
  
999b9326   Mihail   add detectStartPo...
104
              $j = 0;
93e39994   Mihail   fixed parser and ...
105
              $row = $this->file->fgetcsv();;
999b9326   Mihail   add detectStartPo...
106
107
              if ($row === false) {
                  continue;
e55d56cc   Mihail   add draft version...
108
              }
999b9326   Mihail   add detectStartPo...
109
  
999b9326   Mihail   add detectStartPo...
110
              for ($i = 1; $i <= count($row); $i++) {
d3cf6647   Mihail   add multiply pric...
111
             //     CustomVarDamp::dump($row[$i]);
999b9326   Mihail   add detectStartPo...
112
113
114
115
116
117
  
                  if ($row[$i - 1] <> '') {
                      $j++;
                  }
  
                  if ($j >= $this->min_column_quantity) {
40ff24a1   Mihail   refactor CsvParse...
118
                      break 2;
999b9326   Mihail   add detectStartPo...
119
                  }
e55d56cc   Mihail   add draft version...
120
121
              }
          }
2cdc93f0   Mihail   add crud models f...
122
123
124
125
          // @todo - сделать опционально
          // код для того что бы парсить первую строку, закомментировано как предполагается что первая значимая строка это заголовок
   //       $this->current_line --;
  //        $this->file->seek( $this->current_line );
e55d56cc   Mihail   add draft version...
126
      }
1e991822   Mihail   csv parser with e...
127
128
  
      /**
40ff24a1   Mihail   refactor CsvParse...
129
130
       * @return array - итоговый двумерный массив с результатом парсинга
       * метод считывает с открытого файла данные построчно
1e991822   Mihail   csv parser with e...
131
132
133
       */
      public function read()
      {
aa518ad3   Mihail   finishing with co...
134
  
1e991822   Mihail   csv parser with e...
135
          $return = [];
40ff24a1   Mihail   refactor CsvParse...
136
  
01746976   Mihail   fix errors with w...
137
138
139
140
          // будем считать количество пустых строк подряд - при трех подряд - считаем что это конец файла и выходим
          $empty_lines = 0;
          while ( $empty_lines < 3 ) {
              // прочтем строку из файла. Если там есть значения - то в ней массив, иначе - false
d3cf6647   Mihail   add multiply pric...
141
              $row = $this->readRow(  );
40ff24a1   Mihail   refactor CsvParse...
142
  
01746976   Mihail   fix errors with w...
143
144
145
146
147
148
              if ($row === false) {
                  //счетчик пустых строк
                  $empty_lines++;
                  continue;
              }
              // строка не пустая, имеем прочитанный массив значений
d3cf6647   Mihail   add multiply pric...
149
              $this->current_line++;
1e991822   Mihail   csv parser with e...
150
              if ($this->hasHeaderRow) {
93e39994   Mihail   fixed parser and ...
151
                  // в файле есть заголовок, но он еще не назначен, назначим
dc10d651   Mihail   add value filter ...
152
153
                  if ($this->keys === NULL) {
                      $this->keys = array_values($row);
1e991822   Mihail   csv parser with e...
154
                  }
1e991822   Mihail   csv parser with e...
155
              }
40ff24a1   Mihail   refactor CsvParse...
156
              // если у нас установлен лимит, при  его достижении прекращаем парсинг
d3cf6647   Mihail   add multiply pric...
157
              if (($this->last_line) && ($this->current_line > $this->last_line)) {
999b9326   Mihail   add detectStartPo...
158
159
                  break;
              }
01746976   Mihail   fix errors with w...
160
161
              // обнуляем счетчик, так как считаюся пустые строки ПОДРЯД
              $empty_lines = 0;
93e39994   Mihail   fixed parser and ...
162
163
  
              $return[] = $row;
1e991822   Mihail   csv parser with e...
164
165
166
          }
  
          $this->closeHandler();
1e991822   Mihail   csv parser with e...
167
168
169
          return $return;
      }
  
2957209c   Mihail   csv parser - add ...
170
  
dfeb2d10   Mihail   edit universal cs...
171
      protected function closeHandler()
1e991822   Mihail   csv parser with e...
172
      {
2957209c   Mihail   csv parser - add ...
173
          $this->file = NULL;
1e991822   Mihail   csv parser with e...
174
175
      }
  
40ff24a1   Mihail   refactor CsvParse...
176
177
178
      /**
       * @return array - одномерный массив результата парсинга строки
       */
d3cf6647   Mihail   add multiply pric...
179
      protected function readRow(  )
1e991822   Mihail   csv parser with e...
180
      {
999b9326   Mihail   add detectStartPo...
181
          $row = $this->file->fgetcsv();
d3cf6647   Mihail   add multiply pric...
182
183
184
185
          // уберем нулевые колонки
          $row = array_filter($row, function($val){
              return $val <> '';
          });
74072a2a   Mihail   add first version...
186
          if (is_array($row)) {
93e39994   Mihail   fixed parser and ...
187
188
189
190
              // если есть заголовок, то перед конвертацией его нужно назначить
              if ($this->hasHeaderRow && $this->keys !== NULL) {
  
                  if (count($this->keys) !== count($row)) {
d3cf6647   Mihail   add multiply pric...
191
                      throw new \ErrorException("Ошибка парсинга файла в строке # {$this->current_line}. Не соответсвие числа ключевых колонок (заголовка) - числу колонок с данными", 0, 1, $this->file->getBasename(), $this->current_line);
93e39994   Mihail   fixed parser and ...
192
193
194
195
196
                  }
  
                  $row = array_combine($this->keys, $row);
              }
              // попытаемся конвертировать прочитанные значения согласно конфигурации котнвертера значений
74072a2a   Mihail   add first version...
197
              $row = $this->convert($row);
93e39994   Mihail   fixed parser and ...
198
199
              // обрежем массив к первой значимой колонке
              if ( $this->first_column ) {
40ff24a1   Mihail   refactor CsvParse...
200
  
74072a2a   Mihail   add first version...
201
                  $row = array_slice($row, $this->first_column);
40ff24a1   Mihail   refactor CsvParse...
202
  
74072a2a   Mihail   add first version...
203
              }
dfeb2d10   Mihail   edit universal cs...
204
          }
999b9326   Mihail   add detectStartPo...
205
206
          if (is_null($row))
              $row = false;
dc10d651   Mihail   add value filter ...
207
  
dfeb2d10   Mihail   edit universal cs...
208
          return $row;
1e991822   Mihail   csv parser with e...
209
210
211
  
      }
  
74072a2a   Mihail   add first version...
212
213
214
215
216
217
218
219
220
221
      /**
       * @param $arr
       * @return mixed
       * преобразовует значения прочитанного массива в нужные типы, согласно конфигурации конвертера
       */
      protected function convert($arr)
      {
          $result = $arr;
          $converter = $this->converter;
  
74072a2a   Mihail   add first version...
222
223
          if (!is_null($converter)) {
  
8894c93a   Mihail   add Importers fil...
224
              $result = $converter->convertByConfiguration( $arr, $this->converter_conf );
74072a2a   Mihail   add first version...
225
226
227
228
229
230
231
  
          }
  
          return $result;
  
      }
  
1e991822   Mihail   csv parser with e...
232
233
  
  }