Вот эта вот штука http://www.redbarn.org/dns/ratelimits появилась в 9.10.0a1 и попала в релиз 9.10. На текущий момент есть уже 9.10.1. Видимо, одновременно, стоит задействовать этот механизм в конфиге.

Вот в этой вот презентации 
https://conference.apnic.net/data/37/apricot-2014-rrl_1393309768.pdf
предлагают такой конфиг:

rate-limit {
  slip 2;                  // Every other response truncated
  window 15;               // Seconds to bucket
  responses-per-second 5;  // # of good responses per prefix-length/sec
  referrals-per-second 5;  // referral responses
  nodata-per-second 5;     // nodata responses
  nxdomains-per-second 5;  // nxdomain responses
  errors-per-second 5;     // error responses
  all-per-second 20;       // When we drop all

  log-only no;             // Debugging mode
  qps-scale 250;           // x / 1000 * per-second
                           // = new drop limit
  exempt-clients { 127.0.0.1; };
  ipv4-prefix-length 24;    // Define the IPv4 block size
  ipv6-prefix-length 56;    // Define the IPv6 block size

  max-table-size 20000;     // 40 bytes * this number = max memory
  min-table-size 500;       // pre-allocate to speed startup
};

Хотя, вроде бы, часть параметров такие по-умолчанию.