概述
GCC 8.2提供了两个版本的std::string:一个是基于Copy On Write的,另一个直接字符串拷贝的。前者针对C++11以前的,那时候没有移动构造,一切以效率为先,需要使用COW这种奇技淫巧。后者针对C++11,也就是_GLIBCXX_USE_CXX11_ABI
宏被设置为非零时会被用到,并没有COW的功能,更简单,用户可以在必要时使用移动构造。如果不使用移动构造,字符串的频繁拷贝将会是异常灾难,这一点,在我的项目中已经踩过坑。
本文主要研究Modern C++中的string实现,因为使用C++11以后的标准都使用它。
数据组织:16字节的栈上存储,如果超出16字节则在堆上分配
数据的组织很简单,如果字符串长度不超过15字节(加上后缀0一共16字节),则在栈上保存,否则会在堆上分配内存。
// Use empty-base optimization: http://www.cantrip.org/emptyopt.html
struct _Alloc_hider : allocator_type // TODO check __is_final
{
#if __cplusplus < 201103L
_Alloc_hider(pointer __dat, const _Alloc& __a = _Alloc())
: allocator_type(__a), _M_p(__dat) { }
#else
_Alloc_hider(pointer __dat, const _Alloc& __a)
: allocator_type(__a), _M_p(__dat) { }
_Alloc_hider(pointer __dat, _Alloc&& __a = _Alloc())
: allocator_type(std::move(__a)), _M_p(__dat) { }
#endif
pointer _M_p; // The actual data.
};
_Alloc_hider _M_dataplus; ////数据指针,指向本地或者堆内存
size_type _M_string_length; ////实际长度,如果大于_S_local_capacity则是堆内存,否则,是栈内存
enum { _S_local_capacity = 15 / sizeof(_CharT) };
////注意这是Union,16字节的栈内存和整个堆的容量(Capacity)共用一块存储
union
{
_CharT _M_local_buf[_S_local_capacity + 1];
size_type _M_allocated_capacity;
};
里面那个union挺有意思,如果_M_string_length>=_S_local_capacity,那么_M_allocated_capacity保存了整块缓冲区的大小(注意不是字符串的大小);如果_M_string_length<_S_local_capacity则_M_dataplus._M_p指针指向_M_local_buf这块栈上内存区。union的特性是全部元素共用一块空间,根据程序的语义只使用其中一个变量,在这里_M_local_buf有效的时候_M_allocated_capacity无效,反之亦然,巧妙地运用空间,减少内存浪费。
对象的构造:第一组,不带参数的构造函数(默认构造函数)
- 始化长度为0,数据指针指向栈内存
_M_local_buf
,包括以下函数:basic_string()
basic_string(const _Alloc& __a)
对象的构造:第二组,根据字符串构造
- 调用
_M_construct()
构造对象,也就是把字符串拷贝一个(而不是增加引用计数);关于_M_construct()
的细节,在下面会分析。包括以下函数: - 2.1 基于basic_string构建字符串拷贝
-
basic_string(const basic_string& __str)
:拷贝__str的完整字符串; -
basic_string(const basic_string& __str, const _Alloc& __a)
:同上,指定构造器; -
basic_string(const basic_string& __str, size_type __pos, const _Alloc& __a = _Alloc())
:拷贝__str从__pos位置到末尾的所有字符; -
basic_string(const basic_string& __str, size_type __pos, size_type __n)
:拷贝__str从__pos位置开始的N个字符(或者到末尾); -
basic_string(const basic_string& __str, size_type __pos, size_type __n, const _Alloc& __a)
:同上,指定构造器;
-
- 2.2 基于指针构建字符串拷贝,指针可以是字符串指针,也可以是其他指针,只要编译器不抱怨
-
basic_string(const _CharT* __s, const _Alloc& __a = _Alloc())
:拷贝__s的全部字符串,构造时会计算__s的长度,使用char_traits<char>::length()
内联函数; -
basic_string(const _CharT* __s, size_type __n, const _Alloc& __a = _Alloc())
:拷贝__s字符串的前__n个字符,不检测越界问题,留给调用方保证; -
basic_string(const _Tp& __t, size_type __pos, size_type __n, const _Alloc& __a = _Alloc())
:这个比上面两个构造函数更加宽泛,可以是任意数据指针,编译器会对数据能否正确转换进行检测(warnning或者error);
-
- 2.3 其他
-
basic_string(initializer_list<_CharT> __l, const _Alloc& __a = _Alloc())
:使用初始化列表构造; -
basic_string(size_type __n, _CharT __c, const _Alloc& __a = _Alloc())
:以n个相同的字符填充缓冲区:调用_M_construct()
初始化缓冲区并填充字符。
-
对象的构造:第三组:移动构造函数
- 对于栈上保存的字符串,会拷贝到目标字符串(最多16Bytes);如果是堆上分配的字符串,则把指针转到目标字符串。完成这些拷贝和转移后,右值字符串回归到默认构造的状态(长度为0,字符串指针指向栈缓冲区的起始位置);
basic_string(basic_string&& __str)
basic_string(basic_string&& __str, const _Alloc& __a)
对象的构造:第四组:基于迭代器构造
- 调用
_M_construct()
,根据迭代器的类型进行分类处理:-
basic_string(_InputIterator __beg, _InputIterator __end, const _Alloc& __a = _Alloc())
:把迭代器区间内的数据(允许不是char/wchar_t,只要编译器不抱怨);
-
对象的构造:第五组:根据std::string_view构造
- 可以轻量级使用std::string_view构造一个std::string,同样是使用字符串拷贝
-
basic_string(const _Tp& __t, const _Alloc& __a = _Alloc())
:需要__t是std::string_view类型,取整个std::string_view字符串构建std::string; -
basic_string(const _Tp& __t, size_type __pos, size_type __n, const _Alloc& __a = _Alloc())
:需要__t是std::string_view类型,并且取它的字符串一部分构建新的字符串,调用上面的构造函数完成构造。 -
basic_string(__sv_wrapper __svw, const _Alloc& __a)
:允许某个类型,如果可以转换成std::string_view,则使用此构造函数,类似于basic_string(sv.data(), sv.size(), alloc)
。
-
对象的构造:第六组:赋值
- 调用
assign()
函数,进而调用_M_assign()
系列函数,这部分下面会详细分析-
operator=(const basic_string& __str)
:代码相对比较复杂,其实就是字符串拷贝,没有COW。 -
operator=(const _CharT* __s)
:同上 -
operator=(_CharT __c)
:只插入一个字符
-
先谈谈构造时的调用流程
上面大部分版本的构造函数都是给定一个起始区间,调用_M_construct(_InIterator __beg, _InIterator __end)
函数。下面分析这个函数的来龙去脉。
-
_M_construct(_InIterator __beg, _InIterator __end)
:根据std::__is_integer<_InIterator>::__type
分析这个“迭代器”是否数值类型;- 如果是数值类型,则表示调用方是
basic_string(size_type __n, _CharT __c)
这一组的函数,那么就调用_M_construct_aux(_Integer __beg, _Integer __end, std::__true_type)
去生成,最终调用_M_construct(size_type __req, _CharT __c)
函数; - 如果不是数值类型,则表示调用方是上面第二组的调用方式,则调用
_M_construct_aux(_Integer __beg, _Integer __end, std::__true_type)
,继而调用_M_construct(_InIterator __beg, _InIterator __end)
函数;
- 如果是数值类型,则表示调用方是
现在回到_M_construct()函数
_M_construct()函数执行字符串的实际构造操作。它按照迭代器/参数的类型,有两种实现:
-
_M_construct(size_type __req, _CharT __c)
:实现的算法很简单,申请一段__req的内存空间(如果小于15字节则直接写在栈上),并拷贝__req个__c字符; -
_M_construct(_InIterator __beg, _InIterator __end, std::forward_iterator_tag)
:只有当迭代器类型是forward_iterator
或者比它更宽的迭代器时使用,它会根据迭代器之间的长度来确定字符串的长度,并逐字符拷贝。关于迭代器的“更宽”,可以参考迭代器类型。 -
_M_construct(_InIterator __beg, _InIterator __end, std::input_iterator_tag)
:用于input_iterator
迭代器,如输入迭代器等。这个构造比较低效,每次输入一个字符,会检测是否达到缓冲区的末尾,如果是,则把缓冲区的大小加1,重新分配空间并拷贝字符串。 - 讲完了
字符串赋值专用的_M_assign()函数
- 赋值类的函数都会在预分配足够内存后,调用_M_assign()函数,该函数的逻辑很简单,只是单纯的字符串拷贝,拷贝到需要的位置。
结论:std::string在程序在使用的注意事项(划重点)
- 两个字符串连接:根据std::string的实现代码,字符串的连接一定会引起内存的重新分配和字符串拷贝。很遗憾,C++没有使用C的
realloc()
函数。如果使用realloc()
函数,有可能在扩大内存的同时,不需要拷贝字符串(也就是原来分配的内存区域末尾还有足够的字符串)。C++很单纯地分配一块新内存,再把就内存拷贝过去。这一点在效率上会比较低下。个人认为解决办法是,使用std::deque代替std::string。在字符串不断变动的时候,字符数组可以写入std::deque,因为它的插入、追加操作比std::string高效。等字符串稳定后,再使用basic_string(_InputIterator __beg, _InputIterator __end)
构造函数生成std::string。- google的abseil提供了一个可用的办法:也就是先计算多个字符串的长度,预分配一大块内存来存放,然后分别拷贝字符串,这样避免反复分配内存和拷贝字符串,请参考abseil中的string库。但是这种方法只适用于已知固定个数的字符串连接。
- 有人测试出C++拼接字符串的比较中,std::string::append和operator+的效率是最高的,同样的代码,我用C++98和C++11、C++17分别测试过,O3级别优化,最终结果类似。代码和测试结果见这里。
- 字符串的赋值:C++11下,因为有移动构造,所以std::string的复杂性比之前的版本有所降低,但是如果直接使用赋值,而不使用移动赋值,效率反而较“史前”版本慢,因为C++11以前,使用基于引用计数的COW,拷贝更加轻量级,而C++11出现以后,移动赋值成为提升效率几乎唯一的途径了,因此C++11以后的程序尽可能使用移动赋值。
- 另外,字符串的中间插入,也是需要重新分配内存,并完整拷贝整个字符串,这一点需要在使用中注意。
- 如果只是需要字符串的只读操作,可以使用std::string_view代替。
- 最后说一个地方,虽然比较少用,就是基于
std::input_iterator
的构造,它每次重新分配内存只会分配“刚刚适合需要的大小”,而不会如std::vector那样分配2倍,所以将会有频繁分配内存和拷贝的操作。解决的办法还是用std::deque,等字符足够之后再写入std::string。 - 总结上述几条:任何对已有字符串的插入、追加操作,都很可能造成内存的重新分配和整个字符串拷贝,这种重新分配和拷贝,并不是realloc(),而是new+memcpy,这是必须注意的。解决的办法,一是使用reserver()函数申请足够的内存,二是使用std::deque临时代替。