Blame view

backend/controllers/ParserController.php 11.5 KB
3cf42f5c   Mihail   init commit - bas...
1
2
3
  <?php
  namespace backend\controllers;
  
1cc27986   Mihail   merge with server
4
  use common\components\parsers\MailParser;
3cf42f5c   Mihail   init commit - bas...
5
  use Yii;
dd60c760   Mihail   add menu and chec...
6
  use yii\data\ActiveDataProvider;
3cf42f5c   Mihail   init commit - bas...
7
  use yii\filters\AccessControl;
693c46cb   Mihail   add base classes ...
8
  use backend\components\base\BaseController;
3cf42f5c   Mihail   init commit - bas...
9
  use yii\filters\VerbFilter;
b13b1c83   Mihail   final version par...
10
  use backend\models\UploadFileParsingForm;
3cf42f5c   Mihail   init commit - bas...
11
  use yii\web\UploadedFile;
fcd9278e   Mihail   parser csv v1
12
  use yii\data\ArrayDataProvider;
74072a2a   Mihail   add first version...
13
  use yii\multiparser\DynamicFormHelper;
1967135b   Mihail   adapt project to ...
14
15
  use backend\models\ImportersFiles;
  use backend\models\Importers;
8894c93a   Mihail   add Importers fil...
16
  use yii\base\ErrorException;
2edfb901   Mihail   add PriceWriter a...
17
  use common\components\PriceWriter;
e774f057   Mihail   work with custome...
18
  use common\components\CustomVarDamp;
6215a30d   Mihail   add converter int...
19
  use common\components\CustomArrayHelper;
3cf42f5c   Mihail   init commit - bas...
20
21
  
  /**
b13b1c83   Mihail   final version par...
22
   * Parser controller
3cf42f5c   Mihail   init commit - bas...
23
   */
693c46cb   Mihail   add base classes ...
24
  class ParserController extends BaseController
3cf42f5c   Mihail   init commit - bas...
25
  {
500b481a   Administrator   JSON
26
      public $layout = "/column";
8894c93a   Mihail   add Importers fil...
27
  
3cf42f5c   Mihail   init commit - bas...
28
29
30
31
32
33
34
35
36
37
      /**
       * @inheritdoc
       */
      public function behaviors()
      {
          return [
              'access' => [
                  'class' => AccessControl::className(),
                  'rules' => [
                      [
3cf42f5c   Mihail   init commit - bas...
38
39
40
41
42
                          'allow' => true,
                          'roles' => ['@'],
                      ],
                  ],
              ],
e774f057   Mihail   work with custome...
43
44
45
46
47
48
  //            'verbs' => [
  //                'class' => VerbFilter::className(),
  //                'actions' => [
  //                    'logout' => ['post'],
  //                ],
  //            ],
3cf42f5c   Mihail   init commit - bas...
49
50
51
          ];
      }
  
3cf42f5c   Mihail   init commit - bas...
52
  
500b481a   Administrator   JSON
53
  
9e481998   Mihail   add auto upload a...
54
      public function actionIndex($mode = 0)
3cf42f5c   Mihail   init commit - bas...
55
      {
77422ce3   Mihail   edit upload form
56
          $model = new UploadFileParsingForm();
1cc27986   Mihail   merge with server
57
         // $mail = new MailParser();
9e481998   Mihail   add auto upload a...
58
59
          // установим режим, 0 - ручная загрузка, 1 - автозагрузка
          $model->mode = $mode;
500b481a   Administrator   JSON
60
61
62
          return $this->render('index', ['model' => $model]);
      }
  
2edfb901   Mihail   add PriceWriter a...
63
64
65
66
67
68
69
      public function actionError()
      {
          $exception = Yii::$app->errorHandler->exception;
          if ($exception !== null) {
              return $this->render('error', ['message' => $exception->getMessage()]);
          }
      }
9d57a9ea   Mihail   try organize ini ...
70
  
9e481998   Mihail   add auto upload a...
71
      public function actionResults($mode = 0)
8894c93a   Mihail   add Importers fil...
72
      {
9e481998   Mihail   add auto upload a...
73
          $model = new UploadFileParsingForm(['mode' => $mode]);
474f35bf   Mihail   add DynamicFormHe...
74
          $data = [];
b13b1c83   Mihail   final version par...
75
          if ($model->load(Yii::$app->request->post())) {
3cf42f5c   Mihail   init commit - bas...
76
              $model->file = UploadedFile::getInstance($model, 'file');
9e481998   Mihail   add auto upload a...
77
              // первый проход - валидируем, сохраняем файл, ложим в кеш (для ручной загрузки) отпарсенные данные и параметры модели (потом при записи в базу данных они пригодятся)
3663f570   Mihail   draft commit
78
              if ($model->validate()) {
9e481998   Mihail   add auto upload a...
79
                  // запишем дату загрузки файла в таблицу файлов поставщика (ImportersFiles)
1967135b   Mihail   adapt project to ...
80
                  $files_model = new ImportersFiles();
9e481998   Mihail   add auto upload a...
81
                  // id поставщика получим из конфигурации
1967135b   Mihail   adapt project to ...
82
                  $files_model->load(['ImportersFiles' => $model->toArray()]);
9e481998   Mihail   add auto upload a...
83
84
85
                  try {
                      $files_model->save();
                  } catch (ErrorException  $e) {
2edfb901   Mihail   add PriceWriter a...
86
                      throw $e;
9e481998   Mihail   add auto upload a...
87
88
                  }
                  // получим id только что записанной записи - его запишем в название файла
01746976   Mihail   fix errors with w...
89
                  $model->record_id = $files_model->find()
9e481998   Mihail   add auto upload a...
90
91
92
93
94
                      ->where(['importer_id' => $files_model->importer_id])
                      ->orderBy(['id' => SORT_DESC])
                      ->one()
                      ->id;
  
01746976   Mihail   fix errors with w...
95
                  $file_name = $model->record_id . '.' . $model->file->extension;
9e481998   Mihail   add auto upload a...
96
97
  
                  if ($model->mode) {
34d480b7   Mihail   temp commit - wor...
98
                      $model->file_path = Yii::getAlias('@temp_upload') . '/' . $file_name;
9e481998   Mihail   add auto upload a...
99
100
101
                  } else {
                      $model->file_path = Yii::getAlias('@manual_upload') . '/' . $file_name;
                  }
500b481a   Administrator   JSON
102
  
dd60c760   Mihail   add menu and chec...
103
                  $model->file->saveAs($model->file_path);
9e481998   Mihail   add auto upload a...
104
105
106
                  // для авто загрузки, обработка завершена
                  if ($model->mode) {
                      $model->success = true;
34d480b7   Mihail   temp commit - wor...
107
  
9e481998   Mihail   add auto upload a...
108
109
110
111
                      return $this->render('index', ['model' => $model]);
                  }
  
                  // === ручная загрузка ===========
8894c93a   Mihail   add Importers fil...
112
                  //запускаем парсинг
f5769826   Mihail   add modal form fo...
113
                  // доп. опции для парсера
ffd4b834   Mihail   add articul filte...
114
115
116
117
                  $options = ['converter_conf' =>
                      ['importer_id' => $files_model->importer_id]
                  ];
  
f5769826   Mihail   add modal form fo...
118
119
120
121
                  if( ! $model->action ) // обработка с кастомным разделителем
                      $options['$delimiter'] = $model->delimiter;
  
                  $data = $model->readFile( $options );
8894c93a   Mihail   add Importers fil...
122
123
124
125
                  // сохраняем в кеш отпарсенные даные
                  Yii::$app->getCache()->set('parser_data', json_encode($data));
                  // сохраняем в кеш модель - в ней настройки для дальнейшей обработки данных
                  Yii::$app->getCache()->set('parser_configuration', serialize($model));
500b481a   Administrator   JSON
126
  
9e481998   Mihail   add auto upload a...
127
128
              } else {
                  // не прошла валидация форма загрузки файлов
38a1a201   Mihail   add delete func i...
129
130
131
                  $errors_str = '';
                  foreach ($model->getErrors() as $error) {
                      $errors_str .= implode( array_values($error) );
9e481998   Mihail   add auto upload a...
132
                  }
38a1a201   Mihail   add delete func i...
133
                 throw new ErrorException( $errors_str );
3cf42f5c   Mihail   init commit - bas...
134
              }
8894c93a   Mihail   add Importers fil...
135
136
              // листаем пагинатором, или повторно вызываем - считываем из кеша отпрасенные данные
          } else if (Yii::$app->getCache()->get('parser_data')) {
500b481a   Administrator   JSON
137
  
8894c93a   Mihail   add Importers fil...
138
              $data = json_decode(Yii::$app->getCache()->get('parser_data'), true);
500b481a   Administrator   JSON
139
  
3cf42f5c   Mihail   init commit - bas...
140
141
          }
  
474f35bf   Mihail   add DynamicFormHe...
142
143
144
145
146
147
148
          $provider = new ArrayDataProvider([
              'allModels' => $data,
              'pagination' => [
                  'pageSize' => 10,
              ],
          ]);
  
38a1a201   Mihail   add delete func i...
149
150
          $last_index = end( array_flip( $data[0] ) );
          $header_counts = $last_index + 1;
8894c93a   Mihail   add Importers fil...
151
          //формируем заголовок для пользователя, где он сможет выбрать соответсвие полей (выпадающий список)
38a1a201   Mihail   add delete func i...
152
          $header_model = DynamicFormHelper::CreateDynamicModel( $header_counts );
474f35bf   Mihail   add DynamicFormHe...
153
  
474f35bf   Mihail   add DynamicFormHe...
154
155
156
          return $this->render('results',
              ['model' => $data,
                  'header_model' => $header_model,
8894c93a   Mihail   add Importers fil...
157
158
                  // список колонок для выбора
                  'basic_column' => Yii::$app->multiparser->getConfiguration('csv', 'basic_column'),
474f35bf   Mihail   add DynamicFormHe...
159
                  'dataProvider' => $provider]);
3cf42f5c   Mihail   init commit - bas...
160
      }
474f35bf   Mihail   add DynamicFormHe...
161
  
8894c93a   Mihail   add Importers fil...
162
163
      public function actionWrite()
      {
8894c93a   Mihail   add Importers fil...
164
165
166
167
168
169
170
171
          //получим колонки которые выбрал пользователь
          $arr_attributes = Yii::$app->request->post()['DynamicModel'];
          //соберем модель по полученным данным
          $model = DynamicFormHelper::CreateDynamicModel($arr_attributes);
          //добавим правила валидации (колонки должны быть те что указаны в конфиге)
          foreach ($arr_attributes as $key => $value) {
              $model->addRule($key, 'in', ['range' => array_keys(Yii::$app->multiparser->getConfiguration('csv', 'basic_column'))]);
          }
474f35bf   Mihail   add DynamicFormHe...
172
  
8894c93a   Mihail   add Importers fil...
173
174
          // провалидируем выбранные колонки
          if ($model->validate()) {
28253169   Mihail   add converter as ...
175
  
8894c93a   Mihail   add Importers fil...
176
177
              // валидация успешна у нас есть соответсвие колонок, преобразуем в массив данное соответсвие для дальнейшей работы
              $arr = $model->toArray();
aa518ad3   Mihail   finishing with co...
178
  
8894c93a   Mihail   add Importers fil...
179
180
181
182
183
              // получим данные из кеша
              if (Yii::$app->getCache()->get('parser_data') && Yii::$app->getCache()->get('parser_configuration')) {
                  $data = json_decode(Yii::$app->getCache()->get('parser_data'), true);
                  $configuration = unserialize(Yii::$app->getCache()->get('parser_configuration'));
              } else {
2edfb901   Mihail   add PriceWriter a...
184
                  throw new \ErrorException('Ошибка кеша');
8894c93a   Mihail   add Importers fil...
185
              }
474f35bf   Mihail   add DynamicFormHe...
186
  
8894c93a   Mihail   add Importers fil...
187
188
              // соотнесем отпарсенные данные с соответсивем полученным от пользователя
              // для этого преобразуем массив отпарсенных данных - назначим ключи согласно соответствию
6215a30d   Mihail   add converter int...
189
              $data = CustomArrayHelper::createAssocArray( $data, $arr , 'attr_' );
8894c93a   Mihail   add Importers fil...
190
  
2edfb901   Mihail   add PriceWriter a...
191
192
193
194
195
196
              // запустим специальный класс который запишет данные в таблицы связанные с прайсами
              $writer = new PriceWriter();
              $writer->configuration = $configuration;
              $writer->data = $data;
              $writer->mode = 0; //web-режим
              if ( $writer->writeDataToDB() ) {
8894c93a   Mihail   add Importers fil...
197
  
2edfb901   Mihail   add PriceWriter a...
198
199
200
201
                  $configuration['success'] = true;
                  // все прошло успешно - очищаем кеш
                  Yii::$app->getCache()->delete('parser_data');
                  Yii::$app->getCache()->delete('parser_configuration');
9e481998   Mihail   add auto upload a...
202
  
3da8b25f   Mihail   fixed issues with...
203
204
205
                  if( file_exists($configuration['file_path']) )
                      unlink($configuration['file_path']);
  
2edfb901   Mihail   add PriceWriter a...
206
                  return $this->render('index', ['model' => $configuration]);
8894c93a   Mihail   add Importers fil...
207
  
2edfb901   Mihail   add PriceWriter a...
208
              };
8894c93a   Mihail   add Importers fil...
209
210
211
212
  
          }
  
      }
3cf42f5c   Mihail   init commit - bas...
213
  
9e481998   Mihail   add auto upload a...
214
215
      public function actionAutoUpload()
      {
1967135b   Mihail   adapt project to ...
216
          $query = Importers::find()->where(['active' => true])->orderBy(['price_date_update' => SORT_DESC]);
9e481998   Mihail   add auto upload a...
217
218
219
220
221
222
223
224
225
226
227
  
          $provider = new ActiveDataProvider([
              'query' => $query,
              'pagination' => [
                  'pageSize' => 10,
              ],
          ]);
          return $this->render('check_price',
              [
                  'dataProvider' => $provider]);
      }
9075f464   Mihail   add action and vi...
228
229
230
  
      public function actionServerFiles ()
      {
34d480b7   Mihail   temp commit - wor...
231
232
              $arr_id_files = [];
  
9075f464   Mihail   add action and vi...
233
          // получим список файлов которые ожидают к загрузке
df629228   Mihail   console csv parsing
234
          foreach ( glob(Yii::getAlias('@temp_upload') . '/*.csv' ) as $server_file ) {
9075f464   Mihail   add action and vi...
235
              $file_id = basename($server_file,".csv");
ae27b007   Mihail   add ajax handler ...
236
              $arr_id_files[] = (int) $file_id;
9075f464   Mihail   add action and vi...
237
          }
98533894   Mihail   merge with server
238
  
1967135b   Mihail   adapt project to ...
239
          $query = ImportersFiles::find()->where(['in', 'id', $arr_id_files])->orderBy(['upload_time' => SORT_DESC]);
9075f464   Mihail   add action and vi...
240
241
242
243
244
245
246
247
248
249
250
251
  
          $provider = new ActiveDataProvider([
              'query' => $query,
              'pagination' => [
                  'pageSize' => 10,
              ],
          ]);
          return $this->render('server-files',
              [
                  'dataProvider' => $provider]);
      }
  
ae27b007   Mihail   add ajax handler ...
252
      public function actionDelete ()
9075f464   Mihail   add action and vi...
253
      {
ae27b007   Mihail   add ajax handler ...
254
          if ( Yii::$app->request->isAjax ) {
9075f464   Mihail   add action and vi...
255
  
1967135b   Mihail   adapt project to ...
256
              $files_model = new ImportersFiles();
ae27b007   Mihail   add ajax handler ...
257
258
259
260
              if ( isset(Yii::$app->request->post()['id'] )) {
                  $id = Yii::$app->request->post()['id'];
                  try {
                      $files_model->delete($id);
34d480b7   Mihail   temp commit - wor...
261
                      unlink(Yii::getAlias('@temp_upload') . '/' . $id . '.csv' );
ae27b007   Mihail   add ajax handler ...
262
263
264
                      // сообщим скрипту что все ОК
                      echo 1;
                  } catch (ErrorException  $e) {
9075f464   Mihail   add action and vi...
265
  
93e39994   Mihail   fixed parser and ...
266
                      throw $e;
9075f464   Mihail   add action and vi...
267
  
ae27b007   Mihail   add ajax handler ...
268
269
                  }
              }
9075f464   Mihail   add action and vi...
270
271
          }
  
9075f464   Mihail   add action and vi...
272
      }
93e39994   Mihail   fixed parser and ...
273
  
34d480b7   Mihail   temp commit - wor...
274
275
      public function actionLaunchCroneUploads ()
      {
34d480b7   Mihail   temp commit - wor...
276
          foreach (glob(Yii::getAlias('@temp_upload') . '/*.csv') as $server_file) {
93e39994   Mihail   fixed parser and ...
277
  
34d480b7   Mihail   temp commit - wor...
278
              $file_name = basename($server_file,".csv");
df629228   Mihail   console csv parsing
279
              copy( $server_file, Yii::getAlias('@auto_upload') . '/' . $file_name . '.csv' );
34d480b7   Mihail   temp commit - wor...
280
281
  
          }
d3cf6647   Mihail   add multiply pric...
282
  
df629228   Mihail   console csv parsing
283
284
          Yii::$app->session->setFlash( 'server-files', 'Файл успешно загружен' );
          $this->redirect('server-files');
93e39994   Mihail   fixed parser and ...
285
  
d3cf6647   Mihail   add multiply pric...
286
287
  //        $csv = new \console\controllers\ParserController( 'parse-csv', $this->module );
  //        $csv->actionParseCsv();
0bec979b   Mihail   finish with xml a...
288
      }
93e39994   Mihail   fixed parser and ...
289
  
34d480b7   Mihail   temp commit - wor...
290
  
3cf42f5c   Mihail   init commit - bas...
291
  }