【サービス内容】
AWS Lambdaを活用したスクレイピングシステムの開発を提供いたします。Lambdaは「サーバレス」サービスと称され、これによりサーバの管理を必要とせずにスクレイピングを定期的に実行できます。このシステムの導入により、スクレイピングのためにパソコンを常時稼働させる必要がなくなり、また、サーバの故障によるスクレイピング不能といった状況も回避できます。このシステムで利用するサービスは、毎月の無料枠が大きいため、一般的な利用ケースではAWSの利用料金は無料となります。サービスの購入時に、スクレイピングを行うWebページのURLと収集対象データの詳細をお知らせください。また、出力形式はお客様のニーズに応じて柔軟に対応します。
開発言語はTypescriptです。
要望がございましたら詳細なコメントをソースコード中に記載致しますので、プログラミング言語の学習にもお役立て頂けます。
※ Webページによってはスクレイピングが禁止されている場合があります。利用規約をお客様自身でご確認いただき、システムの利用はお客様の責任で行ってください。
【お客様の役割】
まずは、お客様にAWSアカウントの作成と、「Administrator Access」権限を持つIAMユーザの作成をお願いいたします。その後、ユーザーの情報を我々と共有していただきます。スクレイピング環境のお引き渡し後は、セキュリティ上の理由から該当ユーザーを削除してください。
【AWS月額料金の目安】
無料
LambdaやEventBridgeなど、このシステムで使用するサービスは毎月大きな無料枠があり、一般的な利用ケースでは無料となります。
【使用サービス】
AWS Lambda(スクレイピングの実行)
Amazon DynamoDB(ログやスクレイピングしたデータの保存)
Amazon EventBridge(Lambdaを定期実行)
スクレイピングを行うWebページのURLと収集対象のデータ内容をお伝えください。
通知が必要であれば通知先に合わせて必要な情報(例えば、Lineの場合アクセストークン)もお伝えください。