GCP 云存储(GCS)新对象/更改通知到电子邮件/文本,消息

Posted

技术标签:

【中文标题】GCP 云存储(GCS)新对象/更改通知到电子邮件/文本,消息【英文标题】:GCP Cloud Storage(GCS) new object / changes notifications to email / text ,message 【发布时间】:2019-04-12 10:37:22 【问题描述】:

我们将一些 SQL 转储从 AWS RDS 存储到 GCP 云存储作为长期辅助备份。过去四天数据没有传输到 GCP,经分析我们发现这是因为夏令时更改并解决了这个问题。

现在,我们希望将来从 GCP 收到一些通知,发送到电子邮件/短信 - 积极情景/寻呼机职责 - 消极情景(此时仅电子邮件)。发送电子邮件的积极场景是将新文件成功上传到 GCS 存储桶。但由于谷歌对电子邮件或文本没有任何原生支持,请向我们建议一个解决方案。我已经配置了以下

    配置存储桶以通知发布订阅的更改https://cloud.google.com/storage/docs/reporting-changes

    将 pub /sub 通知配置为拉取传递类型 https://cloud.google.com/storage/docs/pubsub-notifications

但是现在我如何从 GCP 发送电子邮件/文本。我们是主要的 AWS 商店。我们可以使用 SES 或 SNS 或任何其他类型的通知从 PUB/SUB 中获取数据吗?

【问题讨论】:

【参考方案1】:

我们可以使用 SES 或 SNS 或任何其他类型的通知来获取 PUB/SUB 中的数据?

是的。我已经使用带有 Pub/Sub 触发器的 Google Cloud Functions 完成了这个(SES)。我假设 SNS 也一样简单。

但是,我发现将 Google Cloud Functions 设置为使用 SMTP 客户端来触发电子邮件要容易得多。我还使用 Twilio 来触发 SMS 文本消息。

要使用 AWS SNS 或 SES,您需要将 boto3 库与您的部署和 AWS 凭证一起打包。您还可以使用 AWS REST 接口,这样就不需要外部库。

对于电子邮件 SMTP 客户端,Google Cloud Functions 包含 smtplib,因此这是一条非常简单的路径。您只需要一个电子邮件用户名和 SMTP 密码。为此,我使用 Gmail 或 Office 365 凭据。 20行python代码就搞定了。

[编辑]

使用 Google Cloud Functions 发送电子邮件时,请使用 SSL 进行传输。对于 Office 365 和 Gmail,此端口为 587。请勿尝试使用不使用 SSL 的端口 25,因为几乎每个人都阻止了端口 25。

【讨论】:

我使用谷歌云功能通过 smtp 发送电子邮件,但云功能似乎阻止了 SMTP 端口。 [cloud.google.com/functions/docs/bestpractices/tips] 。你能告诉我你是怎么克服限制的吗? 我没有任何问题,也不必进行任何更改。但是,我只使用 SMTP SSL。对于 Gmail 和 Office 365,这是端口 587。不要尝试使用几乎所有人都阻止的端口 25。您提供的链接已损坏(404 错误)。 谢谢。实际链接:cloud.google.com/functions/docs/bestpractices/tips 我可以使用端口 587,并且电子邮件功能在 Amazon SES 上运行良好。只有 25 端口被阻塞。我在答案中给出了我的代码。另外我不确定它是否是一个新功能,Cloud 功能可以直接从 GCS 获取触发器,而无需中间的 pub/sub,我们可以将其配置为不同的功能,例如创建、删除等。所以每当有新文件创建时直接调用云端函数。【参考方案2】:
    我们可以配置 GCS 存储桶直接触发云功能,以便对 GCS 存储桶进行以下更改。
      完成 - 创建 删除 存档 元数据更新

教程:https://cloud.google.com/functions/docs/tutorials/storage

    带有 python 3.7 的云函数使用 Amazon SES SMTP 接口触发电子邮件。

    import smtplib
    import email.utils
    from email.mime.multipart import MIMEMultipart
    from email.mime.text import MIMEText
    
    def email_notify(event, context):
        """Triggered by a change to a Cloud Storage bucket.
        Args:
        event (dict): Event payload.
        context (google.cloud.functions.Context): Metadata for the event.
        """
        file = event
        print(f"Processing file: file['name'].")
        BUCKET = file['bucket']
        FILE = file['name']
        CREATED = file['timeCreated']
        UPDATED = file['updated']
        # Replace sender@example.com with your "From" address.
        # This address must be verified.
        SENDER = 'sender-email-address'  
        SENDERNAME = 'no-reply'
    
        # Replace recipient@example.com with a "To" address. If your account
        # is still in the sandbox, this address must be verified.
        RECIPIENT  = 'recepient-email-address'
    
        # Replace smtp_username with your Amazon SES SMTP user name.
        USERNAME_SMTP = "SMTP-USERNAME"
    
        # Replace smtp_password with your Amazon SES SMTP password.
        PASSWORD_SMTP = "SMTP-PASSWORD"
    
        # (Optional) the name of a configuration set to use for this message.
        # If you comment out this line, you also need to remove or comment out
        # the "X-SES-CONFIGURATION-SET:" header below.
        # CONFIGURATION_SET = "ConfigSet"
    
        # If you're using Amazon SES in an AWS Region other than US West (Oregon),
        # replace email-smtp.us-west-2.amazonaws.com with the Amazon SES SMTP
        # endpoint in the appropriate region.
        HOST = "email-smtp.us-west-2.amazonaws.com"
        PORT = 587
    
        # The subject line of the email.
        SUBJECT = 'Successfull upload of file  to GCS bucket '.format(FILE,BUCKET)
    
        # The email body for recipients with non-html email clients.
        BODY_TEXT = ("File upload to GCS bucket\r\n"
                     "Bucket-Name: \r\n"
                     "File-Name: \r\n"
                     "File-Create-Date: \r\n"
                     "File-Update-Date: \r\n"
                    ).format(BUCKET,FILE,CREATED,UPDATED)
    
        # Create message container - the correct MIME type is multipart/alternative.
        msg = MIMEMultipart('alternative')
        msg['Subject'] = SUBJECT
        msg['From'] = email.utils.formataddr((SENDERNAME, SENDER))
        msg['To'] = RECIPIENT
        # Comment or delete the next line if you are not using a configuration set
        # msg.add_header('X-SES-CONFIGURATION-SET',CONFIGURATION_SET)
    
        # Record the MIME types of both parts - text/plain and text/html.
        part1 = MIMEText(BODY_TEXT, 'plain')
        # part2 = MIMEText(BODY_HTML, 'html')
    
        # Attach parts into message container.
        # According to RFC 2046, the last part of a multipart message, in this case
        # the HTML message, is best and preferred.
        msg.attach(part1)
        # msg.attach(part2)
    
        # Try to send the message.
        try:
            server = smtplib.SMTP(HOST, PORT)
            server.ehlo()
            server.starttls()
            #stmplib docs recommend calling ehlo() before & after starttls()
            server.ehlo()
            server.login(USERNAME_SMTP, PASSWORD_SMTP)
            server.sendmail(SENDER, RECIPIENT, msg.as_string())
            server.close()
        # Display an error message if something goes wrong.
        except Exception as e:
            print ("Error: ", e)
        else:
            print ("Email sent!")
    

【讨论】:

以上是关于GCP 云存储(GCS)新对象/更改通知到电子邮件/文本,消息的主要内容,如果未能解决你的问题,请参考以下文章

Airflow GCS 到 BQuery 操作员无法识别云存储桶 URI

使用相同的 GCP 负载均衡器在 GCS 存储桶和 GKE 之间进行路由

gsutil 将特定扩展文件上传到 gcp gcs

如何通过 http 触发器从 AWS SNS 触发 GCP 云功能(私有)

在 GCP 存储桶中创建对象时触发通过 Cloud Run 部署的数据流作业

GCP将数据作为字符串从GCS中的CSV文件加载到BigQuery表中