B编码与BT种子文件分析,以及模仿json-cpp写一个B编码解析器
Posted 彼 方
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了B编码与BT种子文件分析,以及模仿json-cpp写一个B编码解析器相关的知识,希望对你有一定的参考价值。
B编码与BT种子文件分析,以及模仿json-cpp写一个B编码解析器
1、什么是B编码
B编码是种子文件以及tracker服务器返回信息的编码格式,DHT协议和BT协议传输的格式都是经过B编码压缩的
2、B编码格式
B编码有以下4种数据类型:
- 字符串:编码格式为
<十进制ASCII编码的长度>:<字符串>
,需要注意的是字符串没有开始结束符。如4:span,表示字符串span。 - 整数:编码格式为
i<十进制ASCII编码的整数>e
,以i开头,e结尾,中间的数值可以是负数,如i-3e是有效的。 - 列表:编码格式为
l<编码值>e
,以l开头,e结尾,<编码值>可以是任意的B编码的字符串、整数、字典或者其他列表。如l4:info3:path,表示由字符串info、path组成的列表。 - 字典:编码格式为
d<字符串><编码元素>e
,以d开头,e结尾。 需要注意的是<字符串>必须是B编码的字符串,<编码元素>可以是任意的B编码的字符串、整数、列表或者其他字典。
3、种子文件结构
种子文件里的内容其实就是文本,是经过B编码之后的文本。它主要包含以下字段
3.1、主文件结构
- info:必须,一个描述torrent文件的字典,有两种可能形式,一种是没有目录结构的“单一文件”,一种是有目录结构的“多文件”
- announce:可选,tracker服务器的地址URL(字符串)
- announce-list:可选,tracker服务器列表,这是官方规范的一个扩展,向后兼容,用来存储备用服务器列表
- creation date:可选,torrent文件的创建时间,为Unix时间戳
- comment:可选,备注信息
- created by:可选,说明torrent文件是由哪个程序创建的
- encoding:可选,种子文件的默认编码
- nodes:可选,这个字段包含一系列ip和相应端口的列表,用于连接DHT初始node
3.2、info结构
所有关于下载的文件的信息都在这个字段里,它包括多个子字段,而且根据下载的是单个文件还是多个文件,子字段会有所不同
单文件结构如下:
- name:必须,文件名(字符串)
- name.utf-8:可选,内容同上,区别在于使用了UTF-8编码
- length:文件长度,单位字节(整数)
- piece length:必须,每个块的大小,单位字节(整数)
- pieces:必须,文件的特征信息,该字段比较大,实际上是种子内包含所有的文件段的SHA1的校验值的连接,即将所有文件按照piece length的字节大小分成块,每块计算一个SHA1值,然后将这些值连接起来就形成了pieces字段,由于SHA1的校验值为20Byte,所以该字段的大小始终为20的整数倍字节。该字段是种子文件中体积最大的部分,可见如果大文件分块很小,会造成种子文件体积十分庞大
- publisher:可选,发布者的名字
- publisher.utf-8:可选,发布者的名字的utf-8编码
- publisher-url:可选,发布者的网址
- publisher-url.utf-8:可选,发布者网址的utf-8编码。
多文件结构如下:
-
files:必须,是一个列表,存储文件的名字与大小信息,该字段包含以下三个子字段:
length:必须,文件的大小(字节) path:必须,是一个列表,从上到下识别,最末尾的字段是文件名,前面的是文件路径。内容在下载时不允许更改 path.utf-8:可选,内容同上,区别在于使用了UTF-8编码
-
name:必须,推荐的文件夹名,此项可于下载时更改(字符串)
-
name.utf-8:可选,内容同上,区别在于使用了UTF-8编码
-
piece length:必须,每个块的大小,单位字节(整数)
-
pieces:必须,文件的特征信息,该字段比较大,实际上是种子内包含所有的文件段的SHA1的校验值的连接,即将所有文件按照piece length的字节大小分成块,每块计算一个SHA1值,然后将这些值连接起来就形成了pieces字段,由于SHA1的校验值为20Byte,所以该字段的大小始终为20的整数倍字节。该字段是种子文件中体积最大的部分,可见如果大文件分块很小,会造成种子文件体积十分庞大
-
publisher:可选,发布者的名字
-
publisher.utf-8:可选,发布者的名字的utf-8编码
-
publisher-url:可选,发布者的网址
-
publisher-url.utf-8:可选,发布者网址的utf-8编码。
当种子里包含单个文件时,name字段描述的是资源的名称了,此时name字段在下载时不允许更改
4、简单的例子了解一下种子文件和B编码
工欲善其事,必先利其器,要想更好地了解B编码,就需要拿一个种子文件来分析其中的内容。我们可以自己去随便一个网站下载一个种子文件下来,下载的话使用用迅雷之类的软件就行了。然后使用BEncode Editor这个软件打开种子,可以看到类似下面的内容,和我们之前描述的差不多
5、分析JSON-CPP的设计
解析器是参考JSON-CPP来写的,大家可以自行去网上下载JSON-CPP的源码,或者 点击这里 下载bifang框架源码,里面src/json/里面就是JSON-CPP的源码了
5.1、分析Json::Value::CZString的设计
Json::Value里面有一个CZString类,是为了用于统一管理数组类型和对象类型的,如下所示
class CZString {
public:
enum DuplicationPolicy { noDuplication = 0, duplicate, duplicateOnCopy };
CZString(ArrayIndex index);
CZString(char const* str, unsigned length, DuplicationPolicy allocate);
CZString(CZString const& other);
CZString(CZString&& other) noexcept;
~CZString();
CZString& operator=(const CZString& other);
CZString& operator=(CZString&& other) noexcept;
bool operator<(CZString const& other) const;
bool operator==(CZString const& other) const;
ArrayIndex index() const;
// const char* c_str() const; ///< \\deprecated
char const* data() const;
unsigned length() const;
bool isStaticString() const;
private:
void swap(CZString& other);
struct StringStorage {
unsigned policy_ : 2;
unsigned length_ : 30; // 1GB max
};
char const* cstr_; // actually, a prefixed string, unless policy is noDup
union {
ArrayIndex index_;
StringStorage storage_;
};
};
从类成员中可以看到,该类可以存储整型和字符串类型的数据,我们设计时可以简单粗暴地使用std::string来存储字符串类型就行。从后面的代码中我们可以看到这个类是作为std::map的键值来使用的,这样数组类型和对象类型都可以用map来表示了,要实现这点,关键的一点就是要实现比较运算符的重载,如下所示,可以看到,当CZString表示的是数组类型时,使用index_去作比较运算,表示的是对象时使用的是cstr_去作比较运算,完美解决问题。
bool Value::CZString::operator<(const CZString& other) const {
if (!cstr_)
return index_ < other.index_;
// return strcmp(cstr_, other.cstr_) < 0;
// Assume both are strings.
unsigned this_len = this->storage_.length_;
unsigned other_len = other.storage_.length_;
unsigned min_len = std::min<unsigned>(this_len, other_len);
JSON_ASSERT(this->cstr_ && other.cstr_);
int comp = memcmp(this->cstr_, other.cstr_, min_len);
if (comp < 0)
return true;
if (comp > 0)
return false;
return (this_len < other_len);
}
bool Value::CZString::operator==(const CZString& other) const {
if (!cstr_)
return index_ == other.index_;
// return strcmp(cstr_, other.cstr_) == 0;
// Assume both are strings.
unsigned this_len = this->storage_.length_;
unsigned other_len = other.storage_.length_;
if (this_len != other_len)
return false;
JSON_ASSERT(this->cstr_ && other.cstr_);
int comp = memcmp(this->cstr_, other.cstr_, this_len);
return comp == 0;
}
5.2、分析Json::Value的设计
5.2.1、类成员设计
可以看到Json::Value是使用了一个联合体来作为类成员使用的,由于每个Json::Value只可能代表一种类型(总不能又代表数组类型又代表对象类型吧。。。),所以使用联合体可以最大程度地节省空间,比较巧妙的做法,我们平时也可以在特定的场合使用这种技巧
using LargestInt = int;
using LargestUInt = unsigned int;
typedef std::map<CZString, Value> ObjectValues;
union ValueHolder {
LargestInt int_;
LargestUInt uint_;
double real_;
bool bool_;
char* string_; // if allocated_, ptr to { unsigned, char[] }.
ObjectValues* map_;
} value_;
5.2.2、类方法设计
这里看几个典型的方法设计就行,大部分比较简单大家可以自己去看看
- append方法的实现如下,可以看到由于append是给数组类型的数据使用的,所以每次插入数据之后不需要让map重新排序啥的,可以直接在指定位置构造元素即可,所以使用了std::map的emplace方法(size方法的返回值是ArrayIndex,如果不理解ArrayIndex为什么可以替代CZString的得自行去补一下C++的基础。。。)
Value& Value::append(const Value& value) { return append(Value(value)); }
Value& Value::append(Value&& value) {
JSON_ASSERT_MESSAGE(type() == nullValue || type() == arrayValue,
"in Json::Value::append: requires arrayValue");
if (type() == nullValue) {
*this = Value(arrayValue);
}
return this->value_.map_->emplace(size(), std::move(value)).first->second;
}
- find方法的实现如下,没什么特别的,就是使用了std::map的find而已,重载的operator[](const char* key)之类的方法中也是使用了这个find来实现的,难度不大,大家自己看一遍就明白了
Value const* Value::find(char const* begin, char const* end) const {
JSON_ASSERT_MESSAGE(type() == nullValue || type() == objectValue,
"in Json::Value::find(begin, end): requires "
"objectValue or nullValue");
if (type() == nullValue)
return nullptr;
CZString actualKey(begin, static_cast<unsigned>(end - begin),
CZString::noDuplication);
ObjectValues::const_iterator it = value_.map_->find(actualKey);
if (it == value_.map_->end())
return nullptr;
return &(*it).second;
}
const Value& Value::operator[](const char* key) const {
Value const* found = find(key, key + strlen(key));
if (!found)
return nullSingleton();
return *found;
}
5.3、迭代器的设计
5.3.1、Json::ValueIteratorBase
迭代器基类设计如下,可以看到类成员的定义为 Value::ObjectValues::iterator current_,这只是简单托管了Json::Value中**map_**的迭代器而已,没有什么特殊的地方。
class JSON_API ValueIteratorBase {
public:
using iterator_category = std::bidirectional_iterator_tag;
using size_t = unsigned int;
using difference_type = int;
using SelfType = ValueIteratorBase;
bool operator==(const SelfType& other) const { return isEqual(other); }
bool operator!=(const SelfType& other) const { return !isEqual(other); }
difference_type operator-(const SelfType& other) const {
return other.computeDistance(*this);
}
/// Return either the index or the member name of the referenced value as a
/// Value.
Value key() const;
/// Return the index of the referenced Value, or -1 if it is not an
/// arrayValue.
UInt index() const;
/// Return the member name of the referenced Value, or "" if it is not an
/// objectValue.
/// \\note Avoid `c_str()` on result, as embedded zeroes are possible.
String name() const;
/// Return the member name of the referenced Value. "" if it is not an
/// objectValue.
/// \\deprecated This cannot be used for UTF-8 strings, since there can be
/// embedded nulls.
JSONCPP_DEPRECATED("Use `key = name();` instead.")
char const* memberName() const;
/// Return the member name of the referenced Value, or NULL if it is not an
/// objectValue.
/// \\note Better version than memberName(). Allows embedded nulls.
char const* memberName(char const** end) const;
protected:
/*! Internal utility functions to assist with implementing
* other iterator functions. The const and non-const versions
* of the "deref" protected methods expose the protected
* current_ member variable in a way that can often be
* optimized away by the compiler.
*/
const Value& deref() const;
Value& deref();
void increment();
void decrement();
difference_type computeDistance(const SelfType& other) const;
bool isEqual(const SelfType& other) const;
void copy(const SelfType& other);
private:
Value::ObjectValues::iterator current_;
// Indicates that iterator is for a null value.
bool isNull_{true};
public:
// For some reason, BORLAND needs these at the end, rather
// than earlier. No idea why.
ValueIteratorBase();
explicit ValueIteratorBase(const Value::ObjectValues::iterator& current);
};
设计上是没有什么特别的,因为是利用std::map的迭代器进行封装的,下面简单看一下几个方法的实现就行,我们封装B编码的也采用差不多的方法
Value& ValueIteratorBase::deref() { return current_->second; }
const Value& ValueIteratorBase::deref() const { return current_->second; }
void ValueIteratorBase::increment() { ++current_; }
void ValueIteratorBase::decrement() { --current_; }
5.3.2、Json::ValueConstIterator
继承于迭代器基类,非常简单,大家自行看一下就行
class JSON_API ValueIterator : public ValueIteratorBase {
friend class Value;
public:
using value_type = Value;
using size_t = unsigned int;
using difference_type = int;
using reference = Value&;
using pointer = Value*;
using SelfType = ValueIterator;
ValueIterator();
explicit ValueIterator(const ValueConstIterator& other);
ValueIterator(const ValueIterator& other);
private:
/*! \\internal Use by Value to create an iterator.
*/
explicit ValueIterator(const Value::ObjectValues::iterator& current);
public:
SelfType& operator=(const SelfType& other);
SelfType operator++(int) {
SelfType temp(*this);
++*this;
return temp;
}
SelfType operator--(int) {
SelfType temp(*this);
--*this;
return temp;
}
SelfType& operator--() {
decrement();
return *this;
}
SelfType& operator++() {
increment();
return *this;
}
/*! The return value of non-const iterators can be
* changed, so the these functions are not const
* because the returned references/pointers can be used
* to change state of the base class.
*/
reference operator*() { return deref(); }
pointer operator->() { return &deref(); }
};
5.3.3、Json::ValueIterator
继承于迭代器基类,非常简单,大家自行看一下就行
class JSON_API ValueIterator : public ValueIteratorBase {
friend class Value;
public:
using value_type = Value;
using size_t = unsigned int;
using difference_type = int;
using reference = Value&;
using pointer = Value*;
using SelfType = ValueIterator;
ValueIterator();
explicit ValueIterator(const ValueConstIterator& other);
ValueIterator(const ValueIterator& other);
private:
/*! \\internal Use by Value to create an iterator.
*/
explicit ValueIterator(const Value::ObjectValues::iterator& current);
public:
SelfType& operator=(const SelfType& other);
SelfType operator++(int) {
SelfType temp(*this);
++*this;
return temp;
}
SelfType operator--(int) {
SelfType temp(*this);
--*this;
return temp;
}
SelfType& operator--() {
decrement();
return *this;
}
SelfType& operator++() {
increment();
return *this;
}
/*! The return value of non-const iterators can be
* changed, so the these functions are not const
* because the returned references/pointers can be used
* to change state of the base class.
*/
reference operator*() { return deref(); }
pointer operator->() { return &deref(); }
};
5.4、总结
JSON-CPP的实现还是非常巧妙的,里面的很多设计和stl很相似,类提供的包括迭代器的设计也是这样的,这也是JSON-CPP使用起来很简单的一个原因.我们可以很轻易地借鉴这些优秀的代码来设计出一个B编码的解析器
6、B编码解析器设计
6.1、BEncode::Value
和JSON-CPP的实现差不多,舍弃了一些没用的功能,简化了代码,如下所示
class Value
{
friend class ValueIteratorBase;
private:
class CZString
{
public:
CZString(size_t index);
CZString(const std::string& str);
CZString(const CZString& other);
~CZString();
CZString& operator=(const CZString& other);
bool operator<(const CZString& other) const;
bool operator==(const CZString& other迅雷BT种子怎么制作?