Blame view

vendor/yiisoft/multiparser/CsvParser.php 7.47 KB
1e991822   Mihail   csv parser with e...
1
2
  <?php
  /**
1e991822   Mihail   csv parser with e...
3
  
40ff24a1   Mihail   refactor CsvParse...
4
   */
036717a1   Mihail   add error excepti...
5
  namespace yii\multiparser;
dc10d651   Mihail   add value filter ...
6
  
1e991822   Mihail   csv parser with e...
7
  
474f35bf   Mihail   add DynamicFormHe...
8
9
10
11
  /**
   * Class CsvParser
   * @package yii\multiparser
   */
37656b1f   Mihail   add parser interf...
12
  class CsvParser implements ParserInterface
999b9326   Mihail   add detectStartPo...
13
  {
1e991822   Mihail   csv parser with e...
14
  
1e991822   Mihail   csv parser with e...
15
  
40ff24a1   Mihail   refactor CsvParse...
16
17
      /** @var bool
      имеет ли файл заголовок который будет установлен ключами возвращемого массива*/
e55d56cc   Mihail   add draft version...
18
      public $hasHeaderRow = false;
40ff24a1   Mihail   refactor CsvParse...
19
20
21
      /** @var array - массив с заголовком,
       * если не указан и установлено свойство $hasHeaderRow - будет определен автоматически */
      public $keys;
1e991822   Mihail   csv parser with e...
22
  
40ff24a1   Mihail   refactor CsvParse...
23
      /** @var экземляр SplFileObject читаемого файла */
e55d56cc   Mihail   add draft version...
24
      public $file;
1e991822   Mihail   csv parser with e...
25
  
40ff24a1   Mihail   refactor CsvParse...
26
      /** @var int - первая строка с которой начинать парсить */
e55d56cc   Mihail   add draft version...
27
      public $first_line = 0;
1e991822   Mihail   csv parser with e...
28
  
40ff24a1   Mihail   refactor CsvParse...
29
30
31
32
33
      /** @var int - последняя строка до которой  парсить
       * если не указана, то парсинг происходит до конца файла*/
      public $last_line = 0;
  
      /** @var int - первая колонка файла с которой начнется парсинг */
e55d56cc   Mihail   add draft version...
34
      public $first_column = 0;
b13b1c83   Mihail   final version par...
35
  
40ff24a1   Mihail   refactor CsvParse...
36
      /** @var string - разделитель csv */
e55d56cc   Mihail   add draft version...
37
      public $delimiter = ';';
40ff24a1   Mihail   refactor CsvParse...
38
39
40
41
42
43
44
45
  
      /** @var bool
      нужно ли искать автоматически первоую значисмую строку (не пустая строка)
       * иначе первая строка будет взята из аттрибута $first_line */
      public $auto_detect_first_line = false;
  
      /** @var int - количество значимых колонок, что бы определить первую значимую строку
       * используется при автоопределении первой строки*/
e55d56cc   Mihail   add draft version...
46
      public $min_column_quantity = 5;
dc10d651   Mihail   add value filter ...
47
  
74072a2a   Mihail   add first version...
48
49
50
51
      /** @var array - конфигурация конвертера значений */
      public $converter_conf = [];
      /** @var array - конвертер созданный по конфигурации */
      public $converter = NULL;
5c710262   Mihail   edit csv parser -...
52
  
474f35bf   Mihail   add DynamicFormHe...
53
  
40ff24a1   Mihail   refactor CsvParse...
54
      /**
74072a2a   Mihail   add first version...
55
       * метод устанвливает нужные настройки объекта SplFileObject, для работы с csv
40ff24a1   Mihail   refactor CsvParse...
56
       */
e55d56cc   Mihail   add draft version...
57
58
      public function setup()
      {
999b9326   Mihail   add detectStartPo...
59
60
61
          $this->file->setCsvControl($this->delimiter);
          $this->file->setFlags(\SplFileObject::READ_CSV);
          $this->file->setFlags(\SplFileObject::SKIP_EMPTY);
aa518ad3   Mihail   finishing with co...
62
  
40ff24a1   Mihail   refactor CsvParse...
63
64
          if ($this->auto_detect_first_line) {
              $this->shiftToFirstValuableLine();
e55d56cc   Mihail   add draft version...
65
          }
74072a2a   Mihail   add first version...
66
67
          $this->setupConverter();
  
1e991822   Mihail   csv parser with e...
68
69
      }
  
40ff24a1   Mihail   refactor CsvParse...
70
      /**
74072a2a   Mihail   add first version...
71
72
73
74
75
       * устанавливает конвертер значений согласно конфигурационным настройкам
       */
      public function setupConverter()
      {
          if (!count($this->converter_conf)) {
d21c5c5f   Mihail   XMLparser - read ...
76
              $this->converter = new Converter();
74072a2a   Mihail   add first version...
77
78
79
80
              if ($this->hasHeaderRow) {
                  // если у файла есть заголовок, то в результате имеем ассоциативный массив
                  $this->converter_conf['hasKey'] = 1;
              }
8894c93a   Mihail   add Importers fil...
81
              //$this->converter->configuration = $this->converter_conf;
aa518ad3   Mihail   finishing with co...
82
  
74072a2a   Mihail   add first version...
83
84
85
86
87
          }
      }
  
  
      /**
40ff24a1   Mihail   refactor CsvParse...
88
89
90
91
92
93
       * определяет первую значимую строку,
       * считывается файл пока в нем не встретится строка с непустыми колонками
       * в количестве указанном в атрибуте min_column_quantity
       * в результате выполнения курсор ресурса будет находится на последней незначимой строке
       */
      protected function shiftToFirstValuableLine()
e55d56cc   Mihail   add draft version...
94
      {
e55d56cc   Mihail   add draft version...
95
  
40ff24a1   Mihail   refactor CsvParse...
96
97
98
          $finish = false;
  
          while (!$finish) {
999b9326   Mihail   add detectStartPo...
99
100
              $j = 0;
              $row = $this->readRow();
999b9326   Mihail   add detectStartPo...
101
102
              if ($row === false) {
                  continue;
e55d56cc   Mihail   add draft version...
103
              }
999b9326   Mihail   add detectStartPo...
104
  
999b9326   Mihail   add detectStartPo...
105
106
107
108
109
110
111
              for ($i = 1; $i <= count($row); $i++) {
  
                  if ($row[$i - 1] <> '') {
                      $j++;
                  }
  
                  if ($j >= $this->min_column_quantity) {
40ff24a1   Mihail   refactor CsvParse...
112
                      break 2;
999b9326   Mihail   add detectStartPo...
113
                  }
e55d56cc   Mihail   add draft version...
114
115
              }
          }
e55d56cc   Mihail   add draft version...
116
      }
1e991822   Mihail   csv parser with e...
117
118
  
      /**
40ff24a1   Mihail   refactor CsvParse...
119
120
       * @return array - итоговый двумерный массив с результатом парсинга
       * метод считывает с открытого файла данные построчно
1e991822   Mihail   csv parser with e...
121
122
123
       */
      public function read()
      {
aa518ad3   Mihail   finishing with co...
124
  
1e991822   Mihail   csv parser with e...
125
          $return = [];
40ff24a1   Mihail   refactor CsvParse...
126
127
  
          $current_line = 0;
01746976   Mihail   fix errors with w...
128
129
130
131
132
          // будем считать количество пустых строк подряд - при трех подряд - считаем что это конец файла и выходим
          $empty_lines = 0;
          while ( $empty_lines < 3 ) {
              // прочтем строку из файла. Если там есть значения - то в ней массив, иначе - false
              $row = $this->readRow();
40ff24a1   Mihail   refactor CsvParse...
133
  
01746976   Mihail   fix errors with w...
134
135
136
137
138
139
              if ($row === false) {
                  //счетчик пустых строк
                  $empty_lines++;
                  continue;
              }
              // строка не пустая, имеем прочитанный массив значений
40ff24a1   Mihail   refactor CsvParse...
140
              $current_line++;
1e991822   Mihail   csv parser with e...
141
              if ($this->hasHeaderRow) {
dc10d651   Mihail   add value filter ...
142
143
                  if ($this->keys === NULL) {
                      $this->keys = array_values($row);
1e991822   Mihail   csv parser with e...
144
145
                  } else {
  
dc10d651   Mihail   add value filter ...
146
                      if (count($this->keys) !== count($row)) {
1e991822   Mihail   csv parser with e...
147
  //
74072a2a   Mihail   add first version...
148
                          throw new \ErrorException("Invalid columns detected on line # {$current_line}", 0, 1, $this->file->getBasename(), $current_line);
1e991822   Mihail   csv parser with e...
149
150
                      }
  
dc10d651   Mihail   add value filter ...
151
                      $return[] = array_combine($this->keys, $row);
1e991822   Mihail   csv parser with e...
152
                  }
74072a2a   Mihail   add first version...
153
              } else {
1e991822   Mihail   csv parser with e...
154
155
                  $return[] = $row;
              }
40ff24a1   Mihail   refactor CsvParse...
156
157
              // если у нас установлен лимит, при  его достижении прекращаем парсинг
              if (($this->last_line) && ($current_line > $this->last_line)) {
999b9326   Mihail   add detectStartPo...
158
159
                  break;
              }
01746976   Mihail   fix errors with w...
160
161
              // обнуляем счетчик, так как считаюся пустые строки ПОДРЯД
              $empty_lines = 0;
1e991822   Mihail   csv parser with e...
162
163
164
          }
  
          $this->closeHandler();
1e991822   Mihail   csv parser with e...
165
166
167
          return $return;
      }
  
2957209c   Mihail   csv parser - add ...
168
  
dfeb2d10   Mihail   edit universal cs...
169
      protected function closeHandler()
1e991822   Mihail   csv parser with e...
170
      {
2957209c   Mihail   csv parser - add ...
171
          $this->file = NULL;
1e991822   Mihail   csv parser with e...
172
173
      }
  
40ff24a1   Mihail   refactor CsvParse...
174
175
176
      /**
       * @return array - одномерный массив результата парсинга строки
       */
dfeb2d10   Mihail   edit universal cs...
177
      protected function readRow()
1e991822   Mihail   csv parser with e...
178
      {
dfeb2d10   Mihail   edit universal cs...
179
  
999b9326   Mihail   add detectStartPo...
180
          $row = $this->file->fgetcsv();
28253169   Mihail   add converter as ...
181
  
74072a2a   Mihail   add first version...
182
183
          if (is_array($row)) {
              // попытаемся конвертировать прочитанные занчения согдасно конфигурации котнвертера значений
74072a2a   Mihail   add first version...
184
              $row = $this->convert($row);
28253169   Mihail   add converter as ...
185
             // \common\components\CustomVarDamp::dump($row);
74072a2a   Mihail   add first version...
186
              if ($this->first_column) {
40ff24a1   Mihail   refactor CsvParse...
187
  
74072a2a   Mihail   add first version...
188
                  $row = array_slice($row, $this->first_column);
40ff24a1   Mihail   refactor CsvParse...
189
  
74072a2a   Mihail   add first version...
190
              }
dfeb2d10   Mihail   edit universal cs...
191
          }
999b9326   Mihail   add detectStartPo...
192
193
          if (is_null($row))
              $row = false;
dc10d651   Mihail   add value filter ...
194
  
dfeb2d10   Mihail   edit universal cs...
195
          return $row;
1e991822   Mihail   csv parser with e...
196
197
198
  
      }
  
74072a2a   Mihail   add first version...
199
200
201
202
203
204
205
206
207
208
      /**
       * @param $arr
       * @return mixed
       * преобразовует значения прочитанного массива в нужные типы, согласно конфигурации конвертера
       */
      protected function convert($arr)
      {
          $result = $arr;
          $converter = $this->converter;
  
74072a2a   Mihail   add first version...
209
210
          if (!is_null($converter)) {
  
8894c93a   Mihail   add Importers fil...
211
              $result = $converter->convertByConfiguration( $arr, $this->converter_conf );
74072a2a   Mihail   add first version...
212
213
214
215
216
217
218
  
          }
  
          return $result;
  
      }
  
1e991822   Mihail   csv parser with e...
219
220
  
  }