以前は動いていた収集スクリプトが動かなくなった、という状態からのご相談を承ります。
停止原因の大半は、対象サイトのHTML構造の変更です。この場合は修正が可能で、調査後に修正の範囲と費用をご連絡します。まず「なぜ止まったのか」を特定し、報告書としてお渡しするサービスです。
■ この出品でお渡しするもの
・停止した原因の特定結果
・直すために必要な作業の範囲と、そのお見積り
・直さずに済む方法がある場合は、その案
■ よくある停止の原因
1. 対象サイトのHTML構造が変わった
2. 対象サイトがbot対策を導入した
3. 対象サイトが利用規約を変更した
大半は1です。
2と3の場合は修正をお受けしておりません。bot対策の回避は対象サイトの規約に反しますし、仮に回避できても対策が強化されるたびに再び止まるためです。その場合も、そうと判明した経緯を報告書としてお渡しします。
■ 調査の内容
・スクリプトを読み、どこで停止しているかを特定します
・対象サイトの現在の構造を確認し、変更点を洗い出します
・対象サイトの利用規約とrobots.txtを確認します
・修正の要否、範囲、想定作業時間をご報告します
■ 対応できる形
Pythonで書かれたものを想定しています。他の言語の場合は、拝見したうえでお受けできるかご連絡します(読めない場合は正直にお伝えし、ご購入前であればお断りします)。
■ 修正までご希望の場合
調査結果をご覧いただいたうえで、別途お見積りいたします。先に修正費用まで含めた金額をお出ししないのは、中を拝見しないと範囲が決められないためです。
■ お受けできない場合
・対象サイトの利用規約で自動収集が禁止されている場合
・収集対象に個人情報が含まれる場合
・CAPTCHA等のbot対策を回避する必要がある場合
まずはお気軽にご相談ください。
ご購入前に、以下をお知らせください。可否をご返答いたします。
・対象サイトのURL
・スクリプトの言語(Pythonなど)と、おおよその行数
・いつ頃から動かなくなったか
・表示されているエラーメッセージ(あれば)
・取得したデータの利用目的
次の場合はお受けできません。
・対象サイトの利用規約で自動収集が禁止されている場合
・収集対象に個人情報が含まれる場合
・CAPTCHA等のbot対策を回避する必要がある場合
・スクリプトを共有いただけない場合(拝見しないと調査ができません)
上記に該当することが購入後に判明した場合、キャンセルのご相談をさせていただきます。
なお、本出品は「原因の特定と報告」までを範囲としております。修正作業は含まれておりませんので、あらかじめご了承ください。