bugfix: console mode can't start a message in #initialize

Now that it's a regular buffer, it must act like one. I've moved
the message to #run, where it kinda makes more sense. Also tweaked
a few things.

don't require log-mode to auto-respawn

Don't require log-mode (and more importantly, subclasses thereof) to respawn.
If a buffer name is provided during initialization, respawning will be on;
otherwise, it will be off. Now e.g. console mode can use log-mode without
requiring a buffer name, or incurring potentially weird auto-respawn behavior.

protect getch from ctrl-c's outside of the main event loop

The main event loop was interpreting ctrl-c's correctly, but other getch
callers (like asking for input) were not. This change will treat ctrl-c as
ctrl-g in those cases.

Merge branch 'custom-search-hook'

Conflicts:
lib/sup/hook.rb
lib/sup/index.rb

fix broken merge

Whoops!

remove out-of-date comments about the hook system

Merge branch 'enclosed-message-display-tweaks'

Conflicts:
lib/sup/message.rb

Merge branch 'console-mode'

Conflicts:
bin/sup

Merge branch 'restore-state'

Conflicts:
bin/sup-sync

Merge branch 'reply-all-keybindings'

Merge branch 'logging-tweaks'

Conflicts:
lib/sup/hook.rb

Merge branch 'hook-local-vars'

always apply label :sent to messages in sentmanager

Signed-off-by: Ben Walton <bwalton@artsci.utoronto.ca>

coerce Message#add_label (and others) arguments to symbols

So that hook authors can't destroy their index by adding a string as a label.

bugfix: :sent label not being applied to sent messages

At least, for mbox sent sources. Modify the mbox source so that it calls
self.labels for the message labels instead of directly using @labels. This
allows the SentLoader subclass to apply the sent label by defining #labels.

Merge branch 'xapian-updates'

handle malformed multiplart messages

minor sup-config output tweaks

sup-config whitespace tweaks

bugfix in yaml serialization

Objects that don't respond to before_marshal were being turned into false.
Whoops!

fail fast if config is not valid

bugfix: crypto return values when no gpg binary detected

Tweak the return values of CryptoManager#decrypt so that the notice widget is
the first thing returned regardless. Makes the code cleaner.

sup-sync: restore state on messages that don't already exist

remove use of Object#tap

make SUP_LOG_LEVEL self-documenting

The idea here is that if someone is looking at the log and not seeing
the information of interest, then the log itself should tell them
how to get more information, (by suggesting to set SUP_LOG_LEVEL
to the next lower level).

add UTF-8 encoding string for ArchLinux systems

in ArchLinux, UTF-8 encoding is identified by "utf8" instead of
"UTF-8".

reply all keybindings

minor: move hook load messages from info to debug

bugfix: clear cached lambda hook locals after hook call

rejigger sup-sync logic slightly

sup-sync: restore state on messages that don't already exist

remove obsolete Manifest.txt

Merge branch 'run-mailcap-fixes'

Conflicts:
lib/sup/message-chunks.rb

Merge branch 'buffer-rolling'

Merge branch 'locking-refactor'

Conflicts:
bin/sup
bin/sup-sync-back
bin/sup-tweak-labels
lib/sup.rb
lib/sup/suicide.rb

Merge branch 'ncurses-fixes'

Conflicts:
lib/sup/buffer.rb

Merge branch 'various-api-refactors'

Merge branch 'logging'

add Message#load_from_index! shortcut

Message#parse_header is slow, taking up to 2/3 of the time spent loading
threads in thread-index-mode. This patch adds a shortcut method that the index
can use to efficiently initialize a message.

fix proc locals, which must use the old method trick

For hook locals that are specified as procs (usually for performance
reasons), use methods instead of local variables. Sadly you don't get
all the regular variable semantics, but it is the only option for
delayed evaluation AFAICT.

convert a couple of arrays to sets for labels

This fixes some crashes when using 'l' in thread-view-mode that
have been present since commit 7aea418a8a62b7070eee764475fcfc0bdd8d58dd
("maintain labels as Sets rather than arrays").

rewrite hookmanager to use eval for locals

This should fix all the issues that were cropping up when locals were faked
with method calls (the setter issue and the nil issue).

fix garbaged text in textfield when using ncursesw

Apparently, field_buffer content is not initialized to blanks when using
the wide-character version of ncurses. Forcing a call to
set_field_buffer fix the problem.

fix a thread merging bug introduced by refactoring in 59f8fc2

Signed-off-by: Alex Vandiver <alex@chmrr.net>

switch non-error imap messages to info from debug

minor logging output tweak

xapian index format versioning

move all GDBM data into Xapian

Keeping everything in Xapian means much better consistency in case of a crash.
Thread killing is now supported.

minor misc code tweaks

have mbox, maildir and imap sources (de)serialize labels nicely

At output time, rather than emitting a YAML Set (which is nasty), emit an array
of strings. At input time, normalize into a Set of labels.

add hooks for before- and after- yaml marshalling

add intro help text and 'e' command to console mode

'e' restarts evaluation once you've stopped it with ctrl-g.

console: clear_hooks

console: reload

console: index internals accessor

console: add/remove labels

console mode

add 'I' keybinding to raise Inbox buffer

skip system buffers when rolling

maildir: allow ', ' in the unique-name portion of a maildir filename

The maildir specification says the following about unique names:

    A unique name can be anything that doesn't contain a colon (or
    slash) and doesn't start with a dot.

    [http://cr.yp.to/proto/maildir.html]

So disallowing a unique name to have a comma breaks maildir import on
systems where there is a comma in the names.

ncurses cursor pops on after refresh. disable that.

Yet more shotgun programming.

bugfix:relay event when new message is added to index

made this fancy method, and then i forgot to use it!

rewrite logging to have multiple levels: debug, info, etc.

Level is now set by SUP_LOG_LEVEL environment variable.

Big patch here, but most of it is replacing the old Redwood::log calls.

Some work on poll-mode, which subclasses log-mode. Remind me never to use
inheritance again.

rewrite Singleton to not require i_am_the_instance

The flip side is that you have to use .init instead of .new.

minor code style tweaks and whitespace removals

refactor index access into three methods and rewrite PollManager#each_message_from

Couple big changes in this commit, but they're all tied together.

Index.sync_message is refactored into three separate methods: add_message,
update_message and update_message_state. The intention is that add_message is
called for new messages only, update_message is called for changing the method
body on disk (e.g. when we see multiple copies of the same message, or by
DraftManager when the text of a draft is changes), and update_message_state is
called when the labels on a message change. So indexes that differentiate those
operations can exhibit more natural performance characteristics.

Also, PollManager.add_messages_from has been renamed to each_message_from and
changed significantly. It now *only* yields successive messages; it does not
load the index version of the message, and it does not auto-add the message to
the index.  (In fact, it ignores the result of the block.) There's also a new
method called add_new_message that calls Index.add_message and then relays the
update to other GUI elements.

There was a lot of refactoring of sup-sync that was part of this. Probably
not strictly necessary but it was too hard to untangle the changes.

maintain labels as Sets rather than arrays

restore keypad mode after we force ncurses to refresh the whole screen

This also happen to fix a regression after a call to run-mailcap, since
for some reason a screen resize event is triggered when we get control
back...

when writing mbox files, output From_ line date as utc

Otherwise, parsing the From_ lines later will fail!

use BufferManager.shell_out to call run-mailcap instead of system

This ensure ncurses state is correctly restored upon command completion.

don't redirect stderr to /dev/null when calling run-mailcap

Some programs will fail to work correctly if this is done, like for
example: w3m --dump, to view HTML files.

move xapian index loading into load_index

allow sup-sync to use --start-at with --restored

refactor index locking interaction and replace suicidemanager

Since SIGTERM now works, we have a better way of killing a remote
process than SuicideManager. So replace that with a $die global.
Also refactor the interactive locking code into a separate module
so as not to pollute index.rb with such trivial concerns.

die gracefully upon SIGKILL

rewrap getch in select, handle sigwinch manually

This is necessary to operate with many versions of the ruby ncurses library,
all of which block threads when getch is being called. But this means we can't
use getch to determine a sigwich, since we won't see it until an actual key is
pressed. so we handle sigwinch ourselves.

trap term

improve ncurses key handling for sigwinch and sigint

see comments. adding a nodelay call before each getch means we don't need a
select() call, which means that we can get sigwinch and sigint signals from
ncurses.

port ezyang@mit.edu's chattyness patch over to xapian/ferret split

xapian: drop excessively long terms

Merge branch 'xapian'

Conflicts:
lib/sup/index.rb

xapian: fix issue with empty ferret query

xapian: fix MAX_DATE

explicitly load messages in testcase

make logging less chatty

Signed-off-by: Edward Z. Yang <ezyang@mit.edu>

fix broken arrow keypresses after shelling out

Signed-off-by: Edward Z. Yang <ezyang@mit.edu>

add custom-search hook, for shortcuts for custom search queries

Signed-off-by: Edward Z. Yang <ezyang@mit.edu>

Use /etc/mailname if present to determine the hostname for Message-Id

Signed-off-by: Adeodato Simó <dato@net.com.org.es>

easy_decode now also catches InvalidCharacter

Unbreak "bounce-command" hook (was referencing an nonexistent variable)

Signed-off-by: Adeodato Simó <dato@net.com.org.es>

xapian: dont exclude spam/etc in some internal searches

xapian: initialize sources in sup-dump

xapian: fix mk_addrs args in build_message

bugfix: dates need to be truncated for xapian to index

If dates are way out of range, the current indexing process both dies
and generates bad doc ids. This patch forces dates to be within a
reasonable range (current between 1969 and 2038.) Not necessarily the
best solution.

explicitly load index version, for better error messages

Catching the LoadError was masking errors from not having dependent
library like xapian and gdbm. This change makes the error messages
reflect what's actually missing. Since we're adding index types at
roughly once every 3 years, an explicit list like this shouldn't be too
difficult to maintain.

dont using SavingHash#[] for membership test

add limit argument to author_names_and_newness_for_thread

fix String#ord monkeypatch

index: add xapian implementation

index: choose index implementation with config entry or environment variable