Fix #7796 - media outreach crm - needs distributed email sending (due to spam blocks)
[Pman.Core] / NotifySend.php
1 <?php
2 require_once 'Pman.php';
3
4 /**
5  * notification script sender - designed to be run by the Notify script - with many children running
6  * in parallel.
7  *
8  * called with an id of a core_notify element
9  *
10  * uses core_notify - to find an event to object and person.
11  *
12  * uses Events table to log failures
13  * 
14  * 
15  * calls $object->toEmail($person,$last_send, $notify) to generate an email struct with
16  *  array (
17  *      headers =>
18  *      recipients =>
19  *      body =>
20  *  )
21  *
22  *
23  * Note uses configuration
24  *
25  * Pman_Core_NotifySend[host] = 'localhost' << to override direct sending..
26  * Mail[helo] << helo host name
27  * Mail[socket_options] << any socket option.
28  */
29 class Pman_Core_NotifySend_Exception_Success extends Exception {}
30 class Pman_Core_NotifySend_Exception_Fail extends Exception {}
31
32
33 class Pman_Core_NotifySend extends Pman
34 {
35     static $cli_desc = "Send out single notification email (usually called from  Core/Notify)";
36     
37     static $cli_opts = array(
38         'debug' => array(
39             'desc' => 'Turn on debugging (see DataObjects debugLevel )',
40             'default' => 0,
41             'short' => 'v',
42             'min' => 0,
43             'max' => 0,
44             
45         ),
46         'DB_DataObject-debug' => array(
47             'desc' => 'Turn on debugging (see DataObjects debugLevel )',
48             'default' => 0,
49             'short' => 'd',
50             'min' => 1,
51             'max' => 1,
52             
53         ),
54         'force' => array(
55             'desc' => 'Force redelivery, even if it has been sent before or not queued...',
56             'default' => 0,
57             'short' => 'f',
58             'min' => 0,
59             'max' => 0,
60         ),
61         'send-to' => array(
62             'desc' => 'Send the message to this address, rather than the one listed.',
63             'default' => '',
64             'short' => 't',
65             'min' => 0,
66             'max' => 1,
67         )
68         
69         
70         
71     );
72     var $table = 'core_notify';
73     var $error_handler = 'die';
74     var $poolname = 'core';
75     var $server; // core_notify_server
76     
77     function getAuth()
78     {
79         $ff = HTML_FlexyFramework::get();
80         if (!$ff->cli) {
81             $this->errorHandler("access denied");
82         }
83         //HTML_FlexyFramework::ensureSingle(__FILE__, $this);
84         return true;
85         
86     }
87    
88     function get($id,$opts=array())
89     {
90
91         //print_r($opts);
92         if (!empty($opts['DB_DataObject-debug'])) {
93             DB_DataObject::debugLevel($opts['DB_DataObject-debug']);
94         }
95         
96         //DB_DataObject::debugLevel(1);
97         //date_default_timezone_set('UTC');
98         // phpinfo();exit;
99         $force = empty($opts['force']) ? 0 : 1;
100         
101         $w = DB_DataObject::factory($this->table);
102
103         if (!$w->get($id)) {
104             $this->errorHandler("invalid id\n");
105         }
106
107         if (!$force && !empty($w->sent) && strtotime($w->act_when) < strtotime($w->sent)) {
108              
109             $this->errorHandler("already sent - repeat to early\n");
110         }
111         
112         $this->server = DB_DataObject::Factory('core_notify_server')->getCurrent($this);
113
114         
115         if (!empty($opts['debug'])) {
116             print_r($w);
117             $ff = HTML_FlexyFramework::get();
118             if (!isset($ff->Core_Mailer)) {
119                 $ff->Core_Mailer = array();
120             }
121             HTML_FlexyFramework::get()->Core_Mailer['debug'] = true;
122         }
123         
124         $sent = (empty($w->sent) || preg_match('/^0000/', $w->sent)) ? false : true;
125         
126         if (!$force && (!empty($w->msgid) || $sent)) {
127             $ww = clone($w);
128             if (!$sent) {   // fix sent.
129                 $w->sent = $w->sent == '0000-00-00 00:00:00' ? $w->sqlValue('NOW()') :$w->sent; // do not update if sent.....
130                 $w->update($ww);
131             }    
132             $this->errorHandler("message has been sent already.\n");
133         }
134         
135         $o = $w->object();
136         
137         if ($o === false)  {
138              
139             $ev = $this->addEvent('NOTIFY', $w,   "Notification event cleared (underlying object does not exist)" );
140             $w->flagDone($ev, '');
141             $this->errorHandler(  $ev->remarks);
142         }
143      
144         
145         
146         $p = $w->person();
147         
148         if (isset($p->active) && empty($p->active)) {
149             $ev = $this->addEvent('NOTIFY', $w, "Notification event cleared (not user not active any more)" );;
150              $w->flagDone($ev, '');
151             $this->errorHandler(  $ev->remarks);
152         }
153         // has it failed mutliple times..
154         
155         if (!empty($w->field) && isset($p->{$w->field .'_fails'}) && $p->{$w->field .'_fails'} > 9) {
156             $ev = $this->addEvent('NOTIFY', $w, "Notification event cleared (user has to many failures)" );;
157             $w->flagDone($ev, '');
158             $this->errorHandler(  $ev->remarks);
159         }
160         
161         // let's work out the last notification sent to this user..
162         $l = DB_DataObject::factory($this->table);
163         
164         $lar = array(
165                 'ontable' => $w->ontable,
166                 'onid' => $w->onid,
167         );
168         // only newer version of the database us this..
169         if (isset($w->person_table)) {
170             $personid_col = strtolower($w->person_table).'_id';
171             if (isset($w->{$personid_col})) {
172                 $lar[$personid_col] = $w->{$personid_col};
173             }
174         }
175         
176         
177         $l->setFrom( $lar );       
178         $l->whereAdd('id != '. $w->id);
179         $l->orderBy('sent DESC');
180         $l->limit(1);
181         $ar = $l->fetchAll('sent');
182         $last = empty($ar) ? date('Y-m-d H:i:s', 0) : $ar[0];
183         
184         // find last event..
185         $ev = DB_DataObject::factory('Events');
186         $ev->on_id = $w->id;                           // int(11)
187         $ev->on_table = $this->table;
188         $ev->limit(1);
189         $ev->orderBy('event_when DESC');
190         $ar = $ev->fetchAll('event_when');
191         $last_event = empty($ar) ? 0 : $ar[0];
192         $next_try_min = 5;
193         if ($last_event) {
194             $next_try_min = floor((time() - strtotime($last_event)) / 60) * 2;
195         }
196         $next_try = $next_try_min . ' MINUTES';
197          
198         // this may modify $p->email. (it will not update it though)
199         $email =  $this->makeEmail($o, $p, $last, $w, $force);
200         
201         if ($email === true)  {
202             $ev = $this->addEvent('NOTIFY', $w, "Notification event cleared (not required any more) - toEmail=true" );;
203             $w->flagDone($ev, '');
204             $this->errorHandler( $ev->remarks);
205         }
206         if (is_a($email, 'PEAR_Error')) {
207             $email =array(
208                 'error' => $email->toString()
209             );
210         }
211         
212         if (empty($p) && !empty($email['recipients'])) {
213             // make a fake person..
214             $p = (object) array(
215                 'email' => $email['recipients']
216             );
217         }
218          
219         if ($email === false || isset($email['error']) || empty($p)) {
220             // object returned 'false' - it does not know how to send it..
221             $ev = $this->addEvent('NOTIFYFAIL', $w, isset($email['error'])  ? $email['error'] : "INTERNAL ERROR  - We can not handle " . $w->ontable); 
222             $w->flagDone($ev, '');
223             $this->errorHandler(  $ev->remarks);
224         }
225         
226          
227         
228         if (isset($email['later'])) {
229             
230             $this->server->updateNotifyToNextServer($w, $email['later'],true);
231              
232             $this->errorHandler("Delivery postponed by email creator to {$email['later']}");
233         }
234         
235          
236         if (empty($email['headers']['Message-Id'])) {
237             $HOST = gethostname();
238             $email['headers']['Message-Id'] = "<{$this->table}-{$id}@{$HOST}>";
239             
240         }
241         
242         
243             
244         
245         //$p->email = 'alan@akbkhome.com'; //for testing..
246         //print_r($email);exit;
247         // should we fetch the watch that caused it.. - which should contain the method to call..
248         // --send-to=test@xxx.com
249        
250         if (!empty($email['send-to'])) {
251             $p->email = $email['send-to'];
252         }
253          if (!empty($opts['send-to'])) {
254             $p->email = $opts['send-to'];
255         }
256         
257             // since some of them have spaces?!?!
258         $p->email = trim($p->email);
259         $core_domain = DB_DataObject::factory('core_domain')->loadOrCreate($dom);
260         $ww = clone($w);
261         $ww->to_email = empty($ww->to_email) ? $p->email : $ww->to_email;
262         $ww->domain_id = $core_domain->id;
263         // if to_email has not been set!?
264         $ww->update($w); // if nothing has changed this will not do anything.
265         $w = clone($ww);
266     
267       
268         
269         require_once 'Validate.php';
270         if (!Validate::email($p->email, true)) {
271             $ev = $this->addEvent('NOTIFYFAIL', $w, "INVALID ADDRESS: " . $p->email);
272             $w->flagDone($ev, '');
273             $this->errorHandler($ev->remarks);
274             
275         }
276         
277         
278         $ff = HTML_FlexyFramework::get();
279         
280         $explode_email = explode('@', $p->email);
281         $dom = array_pop($explode_email);
282         
283         $mxs = $this->mxs($dom);
284         $ww = clone($w);
285
286         // we might fail doing this...
287         // need to handle temporary failure..
288        
289         
290           // we try for 2 days..
291         $retry = 15;
292         if (strtotime($w->act_start) <  strtotime('NOW - 1 HOUR')) {
293             // older that 1 hour.
294             $retry = 60;
295         }
296         
297         if (strtotime($w->act_start) <  strtotime('NOW - 1 DAY')) {
298             // older that 1 day.
299             $retry = 120;
300         }
301         if (strtotime($w->act_start) <  strtotime('NOW - 2 DAY')) {
302             // older that 1 day.
303             $retry = 240;
304         }
305         
306         if (empty($mxs)) {
307             // only retry for 1 day if the MX issue..
308             if ($retry < 240) {
309                 $this->addEvent('NOTIFY', $w, 'MX LOOKUP FAILED ' . $dom );
310                 $w->flagLater(date('Y-m-d H:i:s', strtotime('NOW + ' . $retry . ' MINUTES')));
311                 $this->errorHandler($ev->remarks);
312             }
313             
314             $ev = $this->addEvent('NOTIFYFAIL', $w, "BAD ADDRESS - BAD DOMAIN - ". $p->email );
315             $w->flagDone($ev, '');
316             $this->errorHandler($ev->remarks);
317             
318             
319         }
320         
321         
322         
323         
324         if (!$force && strtotime($w->act_start) <  strtotime('NOW - 3 DAY')) {
325             $ev = $this->addEvent('NOTIFYFAIL', $w, "BAD ADDRESS - GIVE UP - ". $p->email );
326             $w->flagDone($ev, '');
327             $this->errorHandler(  $ev->remarks);
328         }
329         
330         
331         //$this->addEvent('NOTIFY', $w, 'GREYLISTED ' . $p->email . ' ' . $res->toString());
332         // we can only update act_when if it has not been sent already (only happens when running in force mode..)
333         // set act when if it's empty...
334         $w->act_when =  (!$w->act_when || $w->act_when == '0000-00-00 00:00:00') ? date('Y-m-d H:i:s', strtotime('NOW + ' . $retry . ' MINUTES')) : $w->act_when;
335         
336         $w->update($ww);
337         
338         $ww = clone($w);   
339         
340         $fail = false;
341         require_once 'Mail.php';
342         
343         
344         $this->server->initHelo();
345         
346         if (!isset($ff->Mail['helo'])) {
347             $this->errorHandler("config Mail[helo] is not set");
348         }
349         
350         
351                         
352         foreach($mxs as $mx) {
353             
354            
355             $this->debug_str = '';
356             $this->debug("Trying SMTP: $mx / HELO {$ff->Mail['helo']}");
357             $mailer = Mail::factory('smtp', array(
358                     'host'    => $mx ,
359                     'localhost' => $ff->Mail['helo'],
360                     'timeout' => 15,
361                     'socket_options' =>  isset($ff->Mail['socket_options']) ? $ff->Mail['socket_options'] : null,
362                     //'debug' => isset($opts['debug']) ?  1 : 0,
363                     'debug' => 1,
364                     'debug_handler' => array($this, 'debugHandler')
365             ));
366             
367             // if the host is the mail host + it's authenticated add auth details
368             // this normally will happen if you sent  Pman_Core_NotifySend['host']
369              
370             
371             if (isset($ff->Mail['host']) && $ff->Mail['host'] == $mx && !empty($ff->Mail['auth'] )) {
372                 
373                 $mailer->auth = true;
374                 $mailer->username = $ff->Mail['username'];
375                 $mailer->password = $ff->Mail['password'];        
376             }
377             
378             if(!empty($ff->Core_Notify) && !empty($ff->Core_Notify['routes'])){
379                 
380                 // we might want to regex 'office365 as a mx host 
381                 foreach ($ff->Core_Notify['routes'] as $server => $settings){
382                     if(!in_array($dom, $settings['domains'])){
383                         continue;
384                     }
385                     
386                     // what's the minimum timespan.. - if we have 60/hour.. that's 1 every minute.
387                     // if it's newer that '1' minute...
388                     // then shunt it..
389                     
390                     $settings['rate'] = isset( $settings['rate']) ?  $settings['rate']  : 360;
391                     
392                     $seconds = floor((60 * 60) / $settings['rate']);
393                     
394                     $core_notify = DB_DataObject::factory($this->table);
395                     $core_notify->domain_id = $core_domain->id;
396                     $core_notify->server_id = $this->server->id;
397                     $core_notify->whereAdd("
398                         sent >= NOW() - INTERVAL $seconds SECOND
399                     ");
400                     
401                     if($core_notify->count()){
402                         $this->server->updateNotifyToNextServer( $w , date("Y-m-d H:i:s", time() + $seconds), true);
403                         $this->errorHandler( " Too many emails sent by {$dom} - requeing");
404                     }
405                      
406                     
407                     
408                     $mailer->host = $server;
409                     $mailer->auth = isset($settings['auth']) ? $settings['auth'] : true;
410                     $mailer->username = $settings['username'];
411                     $mailer->password = $settings['password'];
412                     if (isset($settings['port'])) {
413                         $mailer->port = $settings['port'];
414                     }
415                     if (isset($settings['socket_options'])) {
416                         $mailer->socket_options = $settings['socket_options'];
417                         
418                     }
419                     
420                     
421                     break;
422                 }
423                 
424             }
425         
426             
427             $res = $mailer->send($p->email, $email['headers'], $email['body']);
428              
429             
430             if ($res === true) {
431                 // success....
432                 
433                 $successEventName = (empty($email['successEventName'])) ? 'NOTIFYSENT' : $email['successEventName'];
434                 
435                 $ev = $this->addEvent($successEventName, $w, "{$w->to_email} - {$email['headers']['Subject']}");
436                 
437                 $ev->writeEventLog($this->debug_str);
438                  
439                 $w->flagDone($ev,$email['headers']['Message-Id']);
440                 
441                  
442                 // enable cc in notify..
443                 if (!empty($email['headers']['Cc'])) {
444                     $cmailer = Mail::factory('smtp',  isset($ff->Mail) ? $ff->Mail : array() );
445                     $email['headers']['Subject'] = "(CC): " . $email['headers']['Subject'];
446                     $cmailer->send($email['headers']['Cc'],    $email['headers'], $email['body']);
447                     
448                 }
449                 
450                 if (!empty($email['bcc'])) {
451                     $cmailer = Mail::factory('smtp', isset($ff->Mail) ? $ff->Mail : array() );
452                     $email['headers']['Subject'] = "(CC): " . $email['headers']['Subject'];
453                     $res = $cmailer->send($email['bcc'],  $email['headers'], $email['body']);
454                     if (!$res || is_a($res, 'PEAR_Error')) {
455                         echo "could not send bcc..\n";
456                     } else {
457                         echo "Sent BCC to {$email['bcc']}\n";
458                     }
459                 }
460                  
461                 $this->errorHandler( " SENT {$w->id} - {$w->remarks}", true);
462             }
463             // what type of error..
464             $code = empty($res->userinfo['smtpcode']) ? -1 : $res->userinfo['smtpcode'];
465             if (!empty($res->code) && $res->code == 10001) {
466                 // fake greylist if timed out.
467                 $code = 421;
468             }
469             
470             if ($code < 0) {
471                 $this->debug($res->message);
472                 continue; // try next mx... ??? should we wait??? - nope we did not even connect..
473             }
474             // give up after 2 days..
475             if (in_array($code, array( 421, 450, 451, 452))   && $next_try_min < (2*24*60)) {
476                 // try again later..
477                 // check last event for this item..
478                 //$errmsg=  $fail ? ($res->userinfo['smtpcode'] . ': ' .$res->toString()) :  " - UNKNOWN ERROR";
479                 $errmsg=  $res->userinfo['smtpcode'] . ': ' .$res->message ;
480                 if (!empty($res->userinfo['smtptext'])) {
481                     $errmsg=  $res->userinfo['smtpcode'] . ':' . $res->userinfo['smtptext'];
482                 }
483                 //print_r($res);
484                 $this->addEvent('NOTIFY', $w, 'GREYLISTED - ' . $errmsg);
485                 
486                 $this->server->updateNotifyToNextServer($w,  strtotime('NOW + ' . $retry . ' MINUTES'),true);
487                 
488                 $this->errorHandler(  $ev->remarks);
489             }
490             
491             $fail = true;
492             break;
493         }
494         
495         // after trying all mxs - could not connect...
496         if  (!$fail && ($next_try_min > (2*24*60) || strtotime($w->act_start) < strtotime('NOW - 3 DAYS'))) {
497             
498             $errmsg=  " - UNKNOWN ERROR";
499             if (isset($res->userinfo['smtptext'])) {
500                 $errmsg=  $res->userinfo['smtpcode'] . ':' . $res->userinfo['smtptext'];
501             }
502             
503             $ev = $this->addEvent('NOTIFYFAIL', $w,  "RETRY TIME EXCEEDED - " .  $errmsg);
504             $w->flagDone($ev, '');
505             $this->errorHandler( $ev->remarks);
506         }
507         
508         if ($fail) { //// !!!!<<< BLACKLIST DETECT?
509         // fail.. = log and give up..
510             $errmsg=   $res->userinfo['smtpcode'] . ': ' .$res->toString();
511             if (isset($res->userinfo['smtptext'])) {
512                 $errmsg=  $res->userinfo['smtpcode'] . ':' . $res->userinfo['smtptext'];
513             }
514             
515             $ev = $this->addEvent('NOTIFYFAIL', $w, ($fail ? "FAILED - " : "RETRY TIME EXCEEDED - ") .  $errmsg);
516             $w->flagDone($ev, '');
517             
518             if ($res->userinfo['smtpcode'] == 550) {
519                 $this->server->checkSmtpResponse($errmsg, $core_domain);
520             }
521             
522
523             $this->errorHandler( $ev->remarks);
524         }
525         
526         // at this point we just could not find any MX records..
527         
528         
529         // try again.
530         
531         $ev = $this->addEvent('NOTIFY', $w, 'NO HOST CAN BE CONTACTED:' . $p->email);
532         
533         $this->server->updateNotifyToNextServer($w,  strtotime('NOW + ' . $retry . ' MINUTES'),true);
534
535         
536          
537         $this->errorHandler($ev->remarks);
538
539         
540     }
541     function mxs($fqdn)
542     {
543         $ff = HTML_FlexyFramework::get();
544         if (isset($ff->Pman_Core_NotifySend['host'])) {
545             return array($ff->Pman_Core_NotifySend['host']);
546         }
547         
548         $mx_records = array();
549         $mx_weight = array();
550         $mxs = array();
551         if (!getmxrr($fqdn, $mx_records, $mx_weight)) {
552             if (!checkdnsrr($fqdn)) {
553                 return false;
554             }
555             return array($fqdn);
556         }
557         
558         asort($mx_weight,SORT_NUMERIC);
559         
560         foreach($mx_weight as $k => $weight) {
561             if (!empty($mx_records[$k])) {
562                 $mxs[] = $mx_records[$k];
563             }
564         }
565         return empty($mxs) ? false : $mxs;
566     }
567     
568     /**
569      * wrapper to call object->toEmail()
570      *
571      * return
572      *   {
573         headers : {AssocArray},
574         body: {String}
575         
576         // optional..
577         error :  {String} // error message in log.
578         send-to: {String} // use to override rcpt
579          
580      }
581      **/
582     function makeEmail($object, $rcpt, $last_sent_date, $notify, $force =false)
583     {
584         $m = 'notify'. $notify->evtype;
585         //var_dump(get_class($object) . '::' .$m);
586         if (!empty($notify->evtype) && method_exists($object,$m)) {
587             echo "calling :" . get_class($object) . '::' .$m . "\n";
588             return $object->$m($rcpt, $last_sent_date, $notify, $force);
589         }
590         
591         $type = explode('::', $notify->evtype);
592         
593         if(!empty($type[1]) && method_exists($object,$type[1])){
594             $m = $type[1];
595             echo "calling :" . get_class($object) . '::' .$m . "\n";
596             return $object->$m($rcpt, $last_sent_date, $notify, $force);
597         }
598         // fallback if evtype is empty..
599         
600         if (method_exists($object, 'toMailerData')) {
601             return $object->toMailerData(array(
602                 'rcpts'=>$rcpt,
603                 'person'=>$rcpt, // added as mediaoutreach used this?
604             )); //this is core_email - i think it's only used for testing...
605             //var_Dump($object);
606             //exit;
607         }
608         if (method_exists($object, 'toEmail')) {
609             return $object->toEmail($rcpt, $last_sent_date, $notify, $force);
610         }
611         // no way to send this.. - this needs to handle core_notify how we have used it for the approval stuff..
612         
613         return false;
614     }
615     
616     function debug($str)
617     {
618         if (empty($this->cli_args['debug'])) {
619             return;
620             
621         }
622         echo $str . "\n";
623     }
624     function output()
625     {
626         $this->errorHandler("done\n");
627     }
628     var $debug_str = '';
629     
630     function debugHandler ($smtp, $message)
631     {
632         $this->debug_str .= strlen($this->debug_str) ? "\n" : '';
633         $this->debug_str .= $message;
634         //echo $message ."\n";
635     }
636     
637     function errorHandler($msg, $success = false)
638     {
639         if($this->error_handler == 'exception'){
640             if($success){
641                 throw new Pman_Core_NotifySend_Exception_Success($msg);
642             }
643             
644             throw new Pman_Core_NotifySend_Exception_Fail($msg);
645         }
646         
647         die(date('Y-m-d h:i:s') . ' ' . $msg ."\n");
648         
649         
650     }
651     
652     function updateServer($w)
653     {
654         $ff = HTML_FlexyFramework::get();
655          
656         if (empty($ff->Core_Notify['servers'])) {
657             return;
658         }
659         // some classes dont support server routing
660         if (!property_exists($w, 'server_id')) {
661             return;
662         }
663         // next server..
664         $w->server_id = ($w->server_id + 1) % count(array_keys($ff->Core_Notify['servers']));
665          
666     }
667     
668
669     
670 }