Repo-lab
開発ツール

ProxyScrape フリープロキシリストとは?Webスクレイピング向け無料プロキシを5分で使う

⭐ 77 stars GitHub →

GitHubで急上昇中のProxyScrape free-proxy-list(スター数77)は、HTTP・HTTPS・SOCKS4・SOCKS5に対応した無料プロキシを5分ごとに自動更新して提供するオープンソースプロジェクトです。プロキシサービス企業のProxyScrapeが公式メンテナンスするGitHubミラーで、2,000件以上のライブプロキシをJSON・TXT・CSV形式で即取得できます。PythonでのWebスクレイピング時にIPブロックを回避したい開発者にとって、APIキー不要でゼロコストから使えるスタート地点になります。

ProxyScrape とは?フルメタデータ付き無料プロキシGitHubミラーの特徴

ProxyScrape free-proxy-listは、同社のv4 APIが収集したプロキシデータのGitHub自動ミラーです。5分ごとにサーバーcronが更新するため、GitHub Actionsのような不安定なベストエフォート方式ではなく、安定したデータ品質を維持しています。現時点で94カ国・2,674件のプロキシが利用可能で、国×プロトコル別に254のシャードに分割されています。

各プロキシには豊富なメタデータが付与されています。protocol(http/https/socks4/socks5)、country/country_code(国名・ISOコード)、anonymity(elite/anonymous/transparent)、uptime_percent(稼働率%)、latency_ms(レイテンシ)、asn/isp(ASN番号・ISP名)が含まれており、単なるip:portリストを大幅に上回る情報量です。

提供フォーマット

TXT・JSON・CSVの3形式で提供されます。TXT形式はprotocol://ip:portの1行1エントリ形式で最もシンプルです。JSON形式はすべてのメタデータを含む構造化データで、クライアント側でのフィルタリングに最適です。CSV形式はスプレッドシートや分析ツールへの取り込みに便利です。すべてのファイルはjsDelivr CDNで配信され、高速・安定したアクセスが保証されています。

無料プロキシリスト Python スクレイピング — クイックスタート

curlでの即時取得

# 全プロキシTXT形式(1行1エントリ)
curl https://cdn.jsdelivr.net/gh/proxyscrape/free-proxy-list@main/proxies/all/data.txt

# HTTP/HTTPSプロキシのみ
curl https://cdn.jsdelivr.net/gh/proxyscrape/free-proxy-list@main/proxies/protocols/http/data.txt

# 米国SOCKS5プロキシ(国×プロトコル絞り込み)
curl https://cdn.jsdelivr.net/gh/proxyscrape/free-proxy-list@main/proxies/countries/us/socks5/data.txt

PythonでのIPローテーション実装

import requests, random

CDN_URL = "https://cdn.jsdelivr.net/gh/proxyscrape/free-proxy-list@main/proxies/all/data.json"
proxies_data = requests.get(CDN_URL).json()

# 稼働率70%以上のHTTP/HTTPSプロキシを絞り込み
live_proxies = [
    px for px in proxies_data
    if px["protocol"] in ("http", "https") and px["uptime_percent"] >= 70
]

def get_random_proxy():
    px = random.choice(live_proxies)
    proxy_url = "{}://{}:{}".format(px["protocol"], px["ip"], px["port"])
    return {"http": proxy_url, "https": proxy_url}

target_urls = ["https://example.com/page1", "https://example.com/page2"]
for url in target_urls:
    try:
        resp = requests.get(url, proxies=get_random_proxy(), timeout=10)
        print(resp.status_code)
    except Exception:
        pass  # 次のプロキシを試す

国×プロトコル別シャードの活用

# 日本HTTPSプロキシ
curl https://cdn.jsdelivr.net/gh/proxyscrape/free-proxy-list@main/proxies/countries/jp/https/data.txt

# ドイツHTTPプロキシ
curl https://cdn.jsdelivr.net/gh/proxyscrape/free-proxy-list@main/proxies/countries/de/http/data.txt

jsDelivr CDNで配信されているため、世界中どこからでも高速・安定してアクセスできます。国コードはISO-3166 alpha-2(jp, de, us等)の小文字です。

無料プロキシ 取得 API — stats.jsonとJSONフォーマットの活用

stats.jsonで全体像を把握

curl https://cdn.jsdelivr.net/gh/proxyscrape/free-proxy-list@main/proxies/stats.json

このエンドポイントから全プロキシ数・プロトコル別内訳・利用可能な国コードリストを一覧できます。スクレイピング前に現在の利用可能プロキシ数を確認するのに有用です。出力例:

{
  "total": 2674,
  "by_protocol": { "http": 1275, "https": 365, "socks4": 381, "socks5": 1018 },
  "countries": ["AE", "AL", "AR"],
  "country_count": 94
}

コミットSHAへのピン固定(再現性確保)

# テスト環境で特定時点のプロキシリストを固定したい場合
curl https://cdn.jsdelivr.net/gh/proxyscrape/free-proxy-list@<commit-sha>/proxies/all/data.txt

他の無料プロキシリストとの違い・なぜ今このツールか

ProxyScrapeは2020年代初頭から続く老舗プロキシサービスですが、このGitHubリポジトリには他のフリープロキシリストとは明確な差別化点があります。

  1. フルメタデータ付きJSONフォーマット — free-proxy-list.netなど多くのサービスはip:portのみのシンプルリストを提供しますが、ProxyScrapeは稼働率・レイテンシ・ASN・匿名性レベルまでを含む構造化データを提供します。クライアント側でフィルタリングできるため、自分の用途に最適なプロキシを選択できます。
  2. 5分ごとの安定更新(サーバーcron) — GitHub Actionsベースのミラーはキューや制限の影響を受けやすいですが、ProxyScrapeは専用サーバーで更新を管理しています。
  3. jsDelivr CDN経由の高速アクセス — GitHubのrawコンテンツは速度変動が大きいですが、jsDelivr経由では安定したレスポンスが得られます。
  4. 254の細粒度シャード — 国×プロトコルの組み合わせでピンポイントにプロキシを絞り込めます。他のサービスでは実現しにくい精密なフィルタリングが可能です。

こんな人に向いている — 職種別活用シナリオ

Webスクレイピングエンジニア

ECサイト価格比較システムや求人情報集約ツールを開発する際、ターゲットサイトのIPブロックを回避するプロキシローテーション層の構築に活用できます。uptime_percentフィールドで品質の低いプロキシを自動除外し、安定したスクレイピングパイプラインを低コストで構築できます。

QAエンジニア・テスト自動化担当

Webアプリケーションの地域別表示テスト(国コードシャードで特定国IPを選択)や、複数IPからのアクセスシミュレーションに活用できます。無料で始められるため、テスト環境のプロキシコストをゼロに抑えられます。

データサイエンティスト・研究者

公開データの収集や競合サイトの価格動向調査など、大量リクエストが必要なデータ収集タスクに活用できます。JSON形式でメタデータが揃っているため、プロキシ品質の統計分析も容易です。

使う前に知っておきたいこと — 無料プロキシの限界と注意事項

無料プロキシの信頼性制限

無料プロキシは本質的に不安定です。ProxyScrapeのリストは5分ごとに更新されていますが、リアルタイムで全プロキシが動作しているわけではありません。uptime_percentフィールドで70%以上を選択し、エラー時は次のプロキシにフォールバックする実装が必要です。

セキュリティリスク

無料プロキシを通じて機密情報(ログイン情報・APIキー等)を送信しないでください。中間者攻撃のリスクがあります。スクレイピング用の公開データ取得専用で使用し、認証情報を扱うリクエストには有料のプライベートプロキシを使用してください。

ライセンスと利用制限

MIT Licenseで商用利用・改変・再配布が自由です。ただしデータ自体(プロキシリスト)はProxyScrape.comが収集・提供しているものであるため、大規模な商用利用はProxyScrapeの利用規約も確認することをお勧めします。

まとめ — フルメタデータ付き無料プロキシの最有力候補

ProxyScrape free-proxy-listは、単なるIPリストを超えた構造化プロキシデータを無料で提供する、Webスクレイピングエンジニア向けの実用的なリソースです。JSON形式のフルメタデータ・jsDelivr CDN配信・5分更新の三拍子が揃っており、スクレイピングパイプラインへの組み込みも容易です。プロトタイプ開発・テスト・学習目的での活用に最適な出発点となります。


関連ツール・おすすめサービス

  • DigitalOcean — スクレイピングサーバーのホスティングならApp Platformでかんたんデプロイ

この技術を学ぶ

Webスクレイピング・Python自動化に興味を持った方には、UdemyのPythonコースもおすすめです。

毎日更新のGitHubツール情報

LINEで受け取って最新情報をキャッチアップしよう

友達追加する(無料)

関連記事

この記事が役に立ったらシェアしてください